V tomto kurzu se naučíme číst soubory CSV s různými formáty v Pythonu pomocí příkladů.
K csv
tomuto úkolu použijeme výhradně modul zabudovaný do Pythonu. Nejprve ale budeme muset modul importovat jako:
import csv
Již jsme se csv
seznámili se základy používání modulu ke čtení a zápisu do souborů CSV. Pokud nemáte ponětí o používání csv
modulu, podívejte se na náš výukový program Python CSV: Čtení a zápis souborů CSV
Základní použití csv.reader ()
Podívejme se na základní příklad použití csv.reader()
k aktualizaci vašich stávajících znalostí.
Příklad 1: Čtení souborů CSV pomocí csv.reader ()
Předpokládejme, že máme soubor CSV s následujícími položkami:
SN, Jméno, Příspěvek 1, Linus Torvalds, Linux Kernel 2, Tim Berners-Lee, World Wide Web 3, Guido van Rossum, Programování v Pythonu
Můžeme číst obsah souboru pomocí následujícího programu:
import csv with open('innovators.csv', 'r') as file: reader = csv.reader(file) for row in reader: print(row)
Výstup
('SN', 'Name', 'Contribution') ('1', 'Linus Torvalds', 'Linux Kernel') ('2', 'Tim Berners-Lee', 'World Wide Web') ('3' , 'Guido van Rossum', 'Python Programming')
Zde jsme otevřeli soubor innovators.csv v režimu čtení pomocí open()
funkce.
Další informace o otevírání souborů v Pythonu najdete na stránce: Vstup / výstup souboru Pythonu
Potom csv.reader()
se používá ke čtení souboru, který vrací iterovatelný reader
objekt.
reader
Objekt je potom opakována za použití for
smyčky vytisknout obsah každého řádku.
Nyní se podíváme na soubory CSV v různých formátech. Poté se naučíme, jak přizpůsobit csv.reader()
funkci jejich čtení.
Soubory CSV s vlastními oddělovači
Ve výchozím nastavení se v souboru CSV používá jako oddělovač čárka. Některé soubory CSV však mohou používat jiné oddělovače než čárku. Několik populárních je |
a
.
Předpokládejme, že soubor innovators.csv v příkladu 1 používal tabulátor jako oddělovač. Pro čtení souboru můžeme funkci předat další delimiter
parametr csv.reader()
.
Vezměme si příklad.
Příklad 2: Číst soubor CSV s oddělovačem karet
import csv with open('innovators.csv', 'r') as file: reader = csv.reader(file, delimiter = ' ') for row in reader: print(row)
Výstup
('SN', 'Name', 'Contribution') ('1', 'Linus Torvalds', 'Linux Kernel') ('2', 'Tim Berners-Lee', 'World Wide Web') ('3' , 'Guido van Rossum', 'Python Programming')
Jak vidíme, volitelný parametr delimiter = ' '
pomáhá určit reader
objekt, ze kterého má soubor CSV, ze kterého čteme, záložky jako oddělovač.
Soubory CSV s počátečními mezerami
Některé soubory CSV mohou mít za oddělovačem mezeru. Když použijeme výchozí csv.reader()
funkci ke čtení těchto souborů CSV, dostaneme také mezery ve výstupu.
Abychom tyto počáteční mezery odstranili, musíme předat další parametr s názvem skipinitialspace
. Podívejme se na příklad:
Příklad 3: Čtení souborů CSV s počátečními mezerami
Předpokládejme, že máme soubor CSV s názvem people.csv s následujícím obsahem:
SN, Jméno, Město 1, John, Washington 2, Eric, Los Angeles 3, Brad, Texas
Soubor CSV si můžeme přečíst následovně:
import csv with open('people.csv', 'r') as csvfile: reader = csv.reader(csvfile, skipinitialspace=True) for row in reader: print(row)
Výstup
('SN', 'Name', 'City') ('1', 'John', 'Washington') ('2', 'Eric', 'Los Angeles') ('3', 'Brad', ' Texas ')
Program je podobný ostatním příkladům, ale má další skipinitialspace
parametr, který je nastaven na True.
To umožňuje reader
objektu vědět, že položky mají počáteční mezery. Výsledkem je odstranění počátečních mezer po oddělovači.
Soubory CSV s uvozovkami
Některé soubory CSV mohou obsahovat uvozovky kolem každé nebo některých položek.
Vezměme si jako příklad soubor quotes.csv s následujícími položkami:
„SN“, „Jméno“, „Citáty“ 1, Buddha, „To, co si myslíme, že se staneme“ 2, Mark Twain, „Nikdy nelituj ničeho, co tě rozesmálo“ 3, Oscar Wilde, „Buďte sami sebou, všichni ostatní jsou již převzati“
Použití csv.reader()
v minimálním režimu bude mít za následek výstup s uvozovkami.
Abychom je mohli odstranit, budeme muset použít další volitelný parametr s názvem quoting
.
Podívejme se na příklad, jak číst výše uvedený program.
Příklad 4: Čtení souborů CSV s uvozovkami
import csv with open('person1.csv', 'r') as file: reader = csv.reader(file, quoting=csv.QUOTE_ALL, skipinitialspace=True) for row in reader: print(row)
Výstup
('SN', 'Name', 'Quotes') ('1', 'Buddha', 'What we think we become') ('2', 'Mark Twain', 'Never regret anything that made you smile') ('3', 'Oscar Wilde', 'Be yourself everyone else is already taken')
As you can see, we have passed csv.QUOTE_ALL
to the quoting
parameter. It is a constant defined by the csv
module.
csv.QUOTE_ALL
specifies the reader object that all the values in the CSV file are present inside quotation marks.
There are 3 other predefined constants you can pass to the quoting
parameter:
csv.QUOTE_MINIMAL
- Specifiesreader
object that CSV file has quotes around those entries which contain special characters such as delimiter, quotechar or any of the characters in lineterminator.csv.QUOTE_NONNUMERIC
- Specifies thereader
object that the CSV file has quotes around the non-numeric entries.csv.QUOTE_NONE
- Specifies the reader object that none of the entries have quotes around them.
Dialects in CSV module
Notice in Example 4 that we have passed multiple parameters (quoting
and skipinitialspace
) to the csv.reader()
function.
This practice is acceptable when dealing with one or two files. But it will make the code more redundant and ugly once we start working with multiple CSV files with similar formats.
As a solution to this, the csv
module offers dialect
as an optional parameter.
Dialect helps in grouping together many specific formatting patterns like delimiter
, skipinitialspace
, quoting
, escapechar
into a single dialect name.
It can then be passed as a parameter to multiple writer
or reader
instances.
Example 5: Read CSV files using dialect
Suppose we have a CSV file (office.csv) with the following content:
"ID"| "Name"| "Email" "A878"| "Alfonso K. Hamby"| "[email protected]" "F854"| "Susanne Briard"| "[email protected]" "E833"| "Katja Mauer"| "[email protected]"
The CSV file has initial spaces, quotes around each entry, and uses a |
delimiter.
Instead of passing three individual formatting patterns, let's look at how to use dialects to read this file.
import csv csv.register_dialect('myDialect', delimiter='|', skipinitialspace=True, quoting=csv.QUOTE_ALL) with open('office.csv', 'r') as csvfile: reader = csv.reader(csvfile, dialect='myDialect') for row in reader: print(row)
Output
('ID', 'Name', 'Email') ("A878", 'Alfonso K. Hamby', '[email protected]') ("F854", 'Susanne Briard', '[email protected]') ("E833", 'Katja Mauer', '[email protected]')
From this example, we can see that the csv.register_dialect()
function is used to define a custom dialect. It has the following syntax:
csv.register_dialect(name(, dialect(, **fmtparams)))
The custom dialect requires a name in the form of a string. Other specifications can be done either by passing a sub-class of Dialect
class, or by individual formatting patterns as shown in the example.
While creating the reader object, we pass dialect='myDialect'
to specify that the reader instance must use that particular dialect.
The advantage of using dialect
is that it makes the program more modular. Notice that we can reuse 'myDialect' to open other files without having to re-specify the CSV format.
Read CSV files with csv.DictReader()
The objects of a csv.DictReader()
class can be used to read a CSV file as a dictionary.
Example 6: Python csv.DictReader()
Suppose we have a CSV file (people.csv) with the following entries:
Name | Age | Profession |
---|---|---|
Jack | 23 | Doctor |
Miller | 22 | Engineer |
Let's see how csv.DictReader()
can be used.
import csv with open("people.csv", 'r') as file: csv_file = csv.DictReader(file) for row in csv_file: print(dict(row))
Output
('Name': 'Jack', ' Age': ' 23', ' Profession': ' Doctor') ('Name': 'Miller', ' Age': ' 22', ' Profession': ' Engineer')
As we can see, the entries of the first row are the dictionary keys. And, the entries in the other rows are the dictionary values.
Here, csv_file is a csv.DictReader()
object. The object can be iterated over using a for
loop. The csv.DictReader()
returned an OrderedDict
type for each row. That's why we used dict()
to convert each row to a dictionary.
Notice that we have explicitly used the dict() method to create dictionaries inside the for
loop.
print(dict(row))
Note: Starting from Python 3.8, csv.DictReader()
returns a dictionary for each row, and we do not need to use dict()
explicitly.
The full syntax of the csv.DictReader()
class is:
csv.DictReader(file, fieldnames=None, restkey=None, restval=None, dialect='excel', *args, **kwds)
To learn more about it in detail, visit: Python csv.DictReader() class
Using csv.Sniffer class
The Sniffer
class is used to deduce the format of a CSV file.
The Sniffer
class offers two methods:
sniff(sample, delimiters=None)
- This function analyses a given sample of the CSV text and returns aDialect
subclass that contains all the parameters deduced.
An optional delimiters parameter can be passed as a string containing possible valid delimiter characters.
has_header(sample)
- This function returnsTrue
orFalse
based on analyzing whether the sample CSV has the first row as column headers.
Let's look at an example of using these functions:
Example 7: Using csv.Sniffer() to deduce the dialect of CSV files
Suppose we have a CSV file (office.csv) with the following content:
"ID"| "Name"| "Email" A878| "Alfonso K. Hamby"| "[email protected]" F854| "Susanne Briard"| "[email protected]" E833| "Katja Mauer"| "[email protected]"
Let's look at how we can deduce the format of this file using csv.Sniffer()
class:
import csv with open('office.csv', 'r') as csvfile: sample = csvfile.read(64) has_header = csv.Sniffer().has_header(sample) print(has_header) deduced_dialect = csv.Sniffer().sniff(sample) with open('office.csv', 'r') as csvfile: reader = csv.reader(csvfile, deduced_dialect) for row in reader: print(row)
Output
True ('ID', 'Name', 'Email') ('A878', 'Alfonso K. Hamby', '[email protected]') ('F854', 'Susanne Briard', '[email protected]') ('E833', 'Katja Mauer', '[email protected]')
As you can see, we read only 64 characters of office.csv and stored it in the sample variable.
This sample was then passed as a parameter to the Sniffer().has_header()
function. It deduced that the first row must have column headers. Thus, it returned True
which was then printed out.
Podobně byl do Sniffer().sniff()
funkce předán také vzorek . Vrátila všechny odvozené parametry jako Dialect
podtřídu, která byla poté uložena v proměnné deduced_dialect.
Později jsme znovu otevřeli soubor CSV a předali deduced_dialect
proměnnou jako parametr csv.reader()
.
Bylo správně schopen předpovědět delimiter
, quoting
a skipinitialspace
parametry v office.csv souboru, aniž bychom je výslovně zmiňovat.
Poznámka: Modul csv lze použít i pro jiné přípony souborů (například: .txt ), pokud jsou jejich obsahy ve správné struktuře.
Doporučené čtení: Zápis do souborů CSV v Pythonu