CSV-tiedostojen lukeminen Pythonissa

Tässä opetusohjelmassa opitaan lukemaan Pythonissa eri muotoisia CSV-tiedostoja esimerkkien avulla.

Aiomme käyttää yksinomaan csvPythoniin sisäänrakennettua moduulia tähän tehtävään. Mutta ensin meidän on tuotava moduuli seuraavasti:

 import csv

Olemme jo käsitelleet perusasiat siitä, kuinka csvmoduulia käytetään lukemaan ja kirjoittamaan CSV-tiedostoihin. Jos sinulla ei ole aavistustakaan csvmoduulin käytöstä, tutustu Python CSV: n opetusohjelmaamme: CSV-tiedostojen lukeminen ja kirjoittaminen

Csv.readerin () peruskäyttö

Katsotaanpa perusesimerkkiä csv.reader()nykyisen tietosi päivittämisestä.

Esimerkki 1: CSV-tiedostojen lukeminen csv.reader () -ohjelmalla

Oletetaan, että meillä on CSV-tiedosto, jossa on seuraavat merkinnät:

 SN, nimi, lahjoitus 1, Linus Torvalds, Linux Kernel 2, Tim Berners-Lee, World Wide Web 3, Guido van Rossum, Python-ohjelmointi

Voimme lukea tiedoston sisällön seuraavalla ohjelmalla:

 import csv with open('innovators.csv', 'r') as file: reader = csv.reader(file) for row in reader: print(row)

Tuotos 

 ('SN', 'Nimi', 'Osallistuminen') ('1', 'Linus Torvalds', 'Linux Kernel') ('2', 'Tim Berners-Lee', 'World Wide Web') ('3' , 'Guido van Rossum', 'Python-ohjelmointi')

Tässä olemme avanneet innovators.csv- tiedoston lukutilassa käyttämällä open()toimintoa.

Lisätietoja tiedostojen avaamisesta Pythonissa on osoitteessa Python File Input / Output

Sitten sitä csv.reader()käytetään tiedoston lukemiseen, joka palauttaa iteroitavan readerobjektin.

readerObjekti sitten iteroidaan käyttäen forsilmukan tulostaa sisällön kunkin rivin.

Nyt tarkastelemme CSV-tiedostoja eri muodoissa. Opimme sitten csv.reader()toiminnon mukauttamisen lukemaan niitä.

CSV-tiedostot mukautetuilla erottimilla

Oletusarvon mukaan pilkua käytetään erottimena CSV-tiedostossa. Jotkin CSV-tiedostot voivat kuitenkin käyttää muita erottimia kuin pilkku. Harvat suosittuja ovat |ja .

Oletetaan, että esimerkin 1 innovators.csv- tiedosto käytti sarkainta erottajana. Tiedoston lukemiseksi voimme välittää lisäparametrin funktiolle.delimitercsv.reader()

Otetaan esimerkki.

Esimerkki 2: Lue CSV-tiedosto, jossa on välilehden erotin

 import csv with open('innovators.csv', 'r') as file: reader = csv.reader(file, delimiter = ' ') for row in reader: print(row)

Tuotos 

 ('SN', 'Nimi', 'Osallistuminen') ('1', 'Linus Torvalds', 'Linux Kernel') ('2', 'Tim Berners-Lee', 'World Wide Web') ('3' , 'Guido van Rossum', 'Python-ohjelmointi')

Kuten näemme, valinnainen parametri delimiter = ' 'auttaa määrittämään readerobjektin, josta CSV-tiedostosta, josta luemme, on välilehdet erottimena.

CSV-tiedostot alkutiloilla

Joissakin CSV-tiedostoissa voi olla välilyönti erotimen jälkeen. Kun käytämme csv.reader()oletusfunktiota näiden CSV-tiedostojen lukemiseen, saamme välilyöntejä myös tulosteessa.

Näiden alkutilojen poistamiseksi meidän on lähetettävä ylimääräinen parametri nimeltä skipinitialspace. Katsotaanpa esimerkkiä:

Esimerkki 3: Lue CSV-tiedostot alkutiloilla

Oletetaan, että meillä on CSV-tiedosto nimeltä people.csv, jolla on seuraava sisältö:

 SN, nimi, kaupunki 1, John, Washington 2, Eric, Los Angeles 3, Brad, Texas

Voimme lukea CSV-tiedoston seuraavasti:

 import csv with open('people.csv', 'r') as csvfile: reader = csv.reader(csvfile, skipinitialspace=True) for row in reader: print(row)

Tuotos 

 ('SN', 'Nimi', 'Kaupunki') ('1', 'John', 'Washington') ('2', 'Eric', 'Los Angeles') ('3', 'Brad', ' Texas ')

Ohjelma on samanlainen kuin muut esimerkit, mutta sillä on skipinitialspacelisäparametri, joka on asetettu True.

Tämän avulla readerobjekti tietää, että merkinnöissä on alussa välilyönti. Tämän seurauksena alkuperäiset välit, jotka olivat läsnä erottimen jälkeen, poistetaan.

CSV-tiedostot lainausmerkeillä

Joissakin CSV-tiedostoissa voi olla lainauksia jokaisen tai joidenkin merkintöjen ympärillä.

Let's take quotes.csv as an example, with the following entries:

 "SN", "Name", "Quotes" 1, Buddha, "What we think we become" 2, Mark Twain, "Never regret anything that made you smile" 3, Oscar Wilde, "Be yourself everyone else is already taken"

Using csv.reader() in minimal mode will result in output with the quotation marks.

In order to remove them, we will have to use another optional parameter called quoting.

Let's look at an example of how to read the above program.

Example 4: Read CSV files with quotes

 import csv with open('person1.csv', 'r') as file: reader = csv.reader(file, quoting=csv.QUOTE_ALL, skipinitialspace=True) for row in reader: print(row)

Output 

 ('SN', 'Name', 'Quotes') ('1', 'Buddha', 'What we think we become') ('2', 'Mark Twain', 'Never regret anything that made you smile') ('3', 'Oscar Wilde', 'Be yourself everyone else is already taken')

As you can see, we have passed csv.QUOTE_ALL to the quoting parameter. It is a constant defined by the csv module.

csv.QUOTE_ALL specifies the reader object that all the values in the CSV file are present inside quotation marks.

There are 3 other predefined constants you can pass to the quoting parameter:

  • csv.QUOTE_MINIMAL - Specifies reader object that CSV file has quotes around those entries which contain special characters such as delimiter, quotechar or any of the characters in lineterminator.
  • csv.QUOTE_NONNUMERIC - Specifies the reader object that the CSV file has quotes around the non-numeric entries.
  • csv.QUOTE_NONE - Specifies the reader object that none of the entries have quotes around them.

Dialects in CSV module

Notice in Example 4 that we have passed multiple parameters (quoting and skipinitialspace) to the csv.reader() function.

This practice is acceptable when dealing with one or two files. But it will make the code more redundant and ugly once we start working with multiple CSV files with similar formats.

As a solution to this, the csv module offers dialect as an optional parameter.

Dialect helps in grouping together many specific formatting patterns like delimiter, skipinitialspace, quoting, escapechar into a single dialect name.

It can then be passed as a parameter to multiple writer or reader instances.

Example 5: Read CSV files using dialect

Suppose we have a CSV file (office.csv) with the following content:

 "ID"| "Name"| "Email" "A878"| "Alfonso K. Hamby"| "[email protected]" "F854"| "Susanne Briard"| "[email protected]" "E833"| "Katja Mauer"| "[email protected]"

The CSV file has initial spaces, quotes around each entry, and uses a | delimiter.

Instead of passing three individual formatting patterns, let's look at how to use dialects to read this file.

 import csv csv.register_dialect('myDialect', delimiter='|', skipinitialspace=True, quoting=csv.QUOTE_ALL) with open('office.csv', 'r') as csvfile: reader = csv.reader(csvfile, dialect='myDialect') for row in reader: print(row)

Output 

 ('ID', 'Name', 'Email') ("A878", 'Alfonso K. Hamby', '[email protected]') ("F854", 'Susanne Briard', '[email protected]') ("E833", 'Katja Mauer', '[email protected]')

From this example, we can see that the csv.register_dialect() function is used to define a custom dialect. It has the following syntax:

 csv.register_dialect(name(, dialect(, **fmtparams)))

The custom dialect requires a name in the form of a string. Other specifications can be done either by passing a sub-class of Dialect class, or by individual formatting patterns as shown in the example.

While creating the reader object, we pass dialect='myDialect' to specify that the reader instance must use that particular dialect.

The advantage of using dialect is that it makes the program more modular. Notice that we can reuse 'myDialect' to open other files without having to re-specify the CSV format.

Read CSV files with csv.DictReader()

The objects of a csv.DictReader() class can be used to read a CSV file as a dictionary.

Example 6: Python csv.DictReader()

Suppose we have a CSV file (people.csv) with the following entries:

Name Age Profession
Jack 23 Doctor
Miller 22 Engineer

Let's see how csv.DictReader() can be used.

 import csv with open("people.csv", 'r') as file: csv_file = csv.DictReader(file) for row in csv_file: print(dict(row))

Output 

 ('Name': 'Jack', ' Age': ' 23', ' Profession': ' Doctor') ('Name': 'Miller', ' Age': ' 22', ' Profession': ' Engineer')

As we can see, the entries of the first row are the dictionary keys. And, the entries in the other rows are the dictionary values.

Here, csv_file is a csv.DictReader() object. The object can be iterated over using a for loop. The csv.DictReader() returned an OrderedDict type for each row. That's why we used dict() to convert each row to a dictionary.

Notice that we have explicitly used the dict() method to create dictionaries inside the for loop.

 print(dict(row))

Note: Starting from Python 3.8, csv.DictReader() returns a dictionary for each row, and we do not need to use dict() explicitly.

The full syntax of the csv.DictReader() class is:

 csv.DictReader(file, fieldnames=None, restkey=None, restval=None, dialect='excel', *args, **kwds)

To learn more about it in detail, visit: Python csv.DictReader() class

Using csv.Sniffer class

The Sniffer class is used to deduce the format of a CSV file.

The Sniffer class offers two methods:

  • sniff(sample, delimiters=None) - This function analyses a given sample of the CSV text and returns a Dialect subclass that contains all the parameters deduced.

An optional delimiters parameter can be passed as a string containing possible valid delimiter characters.

  • has_header(sample) - This function returns True or False based on analyzing whether the sample CSV has the first row as column headers.

Let's look at an example of using these functions:

Example 7: Using csv.Sniffer() to deduce the dialect of CSV files

Suppose we have a CSV file (office.csv) with the following content:

 "ID"| "Name"| "Email" A878| "Alfonso K. Hamby"| "[email protected]" F854| "Susanne Briard"| "[email protected]" E833| "Katja Mauer"| "[email protected]"

Let's look at how we can deduce the format of this file using csv.Sniffer() class:

 import csv with open('office.csv', 'r') as csvfile: sample = csvfile.read(64) has_header = csv.Sniffer().has_header(sample) print(has_header) deduced_dialect = csv.Sniffer().sniff(sample) with open('office.csv', 'r') as csvfile: reader = csv.reader(csvfile, deduced_dialect) for row in reader: print(row)

Output 

 True ('ID', 'Name', 'Email') ('A878', 'Alfonso K. Hamby', '[email protected]') ('F854', 'Susanne Briard', '[email protected]') ('E833', 'Katja Mauer', '[email protected]')

As you can see, we read only 64 characters of office.csv and stored it in the sample variable.

This sample was then passed as a parameter to the Sniffer().has_header() function. It deduced that the first row must have column headers. Thus, it returned True which was then printed out.

Samoin näyte välitettiin myös Sniffer().sniff()funktiolle. Se palautti kaikki johdetut parametrit Dialectalaluokana, joka sitten tallennettiin deduced_dialect-muuttujaan.

Myöhemmin avasimme CSV-tiedoston uudelleen ja välitimme deduced_dialectmuuttujan parametrina csv.reader().

Se oli oikein pysty ennustamaan delimiter, quotingja skipinitialspaceparametrit office.csv tiedosto ilman meitä mainitsemalla niitä.

Huomaa: csv-moduulia voidaan käyttää myös muille tiedostotunnisteille (kuten: .txt ), kunhan niiden sisältö on asianmukaisessa rakenteessa.

Suositeltava lukeminen: Kirjoita CSV-tiedostoihin Pythonissa

Mielenkiintoisia artikkeleita...