docs/cut

annotate cut.txt @ 6:bf2ac5df0063

Zwischenstand
author markus schnalke <meillo@marmaro.de>
date Sun, 03 May 2015 18:08:00 +0200
parents 00097c80a853
children 21ca59543b07
rev   line source
meillo@6 1 Das Werkzeugkaestle, #1
meillo@0 2
meillo@6 3 cut - cut out selected fields of each line of a file
meillo@6 4 ----------------------------------------------------
meillo@6 5 markus schnalke <meillo@marmaro.de>
meillo@6 6 2015-05
meillo@0 7
meillo@0 8
meillo@1 9 Cut ist ein klassisches Programm im Unix-Werkzeugkasten.
meillo@0 10 In keinem ordentlichen Tutorial zur Shellprogrammierung darf
meillo@0 11 es fehlen. Es ist ein schoenes Anschauungs- und Beispielobjekt
meillo@4 12 fuer's Shellscripting. Hier will ich ein wenig hinter die
meillo@4 13 Fassade schauen.
meillo@0 14
meillo@0 15
meillo@4 16 Funktionsweise
meillo@4 17
meillo@4 18 Die Funktionsbasis von cut waren urspruenglich zwei Modi, die
meillo@4 19 spaeter um einen dritten erweitert wurden. Cut schneidet
meillo@4 20 entweder bestimmte Zeichen aus den Zeilen der Eingabe oder
meillo@0 21 bestimmte durch Trennzeichen definierte Felder.
meillo@0 22
meillo@4 23 Der Zeichenmodus ist geeignet um Ausschnitte aus
meillo@4 24 Festbreitenformaten zu extrahieren. So kann man damit
meillo@4 25 beispielsweise bestimmte Zugriffsrechte aus der Ausgabe von
meillo@4 26 `ls -l' ausschneiden. Hier die Rechte des Besitzers:
meillo@0 27
meillo@4 28 $ ls -l foo | cut -c 2-4
meillo@4 29 rw-
meillo@0 30
meillo@4 31 Oder die Schreibrechte des Besitzers, der Gruppe und der
meillo@4 32 Welt:
meillo@0 33
meillo@4 34 $ ls -l | cut -c 3,6,9
meillo@4 35 ww-
meillo@0 36
meillo@4 37 Mit cut lassen sich aber auch Strings kuerzen.
meillo@0 38
meillo@6 39 $ echo "$long" | cut -c -20
meillo@0 40
meillo@4 41 Dieser Befehl gibt die ersten maximal 20 Zeichen (jeder
meillo@4 42 Zeile) von `$long' aus.
meillo@0 43
meillo@4 44 Geht es aber nicht um die Darstellung von Zeichen, sondern um
meillo@4 45 ihre Speicherung, dann ist `-c' nicht unbedingt die passende
meillo@4 46 Option. Frueher, als US-ASCII als Zeichensatz und -kodierung
meillo@4 47 noch omnipraesent war, wurde jedes Zeichen mit genau einem
meillo@4 48 Byte gespeichert. Somit selektierte `cut -c' gleichermassen
meillo@4 49 sowohl Ausgabezeichen als auch Bytes. Mit dem Aufkommen von
meillo@4 50 Multibyte-Kodierungen (wie UTF-8) musste man sich jedoch von
meillo@4 51 dieser Annahme loesen. In diesem Zug bekam cut mit
meillo@4 52 POSIX.2-1992 die Option `-b'. Diese selektiert Bytes. Will man
meillo@4 53 also nur die ersten maximal 500 Bytes vor dem
meillo@0 54 Newline-Zeichen stehen haben (und den Rest stillschweigend
meillo@0 55 ignorieren), dann macht man das mit:
meillo@0 56
meillo@6 57 $ cut -b -500
meillo@0 58
meillo@4 59 Den Rest kann man sich mit `cut -b 501-' einfangen. Diese
meillo@4 60 Funktion ist insbesondere fuer POSIX wichtig, da so sicher
meillo@4 61 gestellt werden kann, dass Textdateien keine beliebig
meillo@4 62 langen Zeilen haben.
meillo@4 63 [ http://pubs.opengroup.org/onlinepubs/9699919799/utilities/cut.html#tag_20_28_17
meillo@0 64
meillo@0 65 Neben dem Zeichen- bzw. Byte-Modus bietet cut noch den
meillo@0 66 interessanteren Feld-Modus, den man mit `-f' einleitet. Mit ihm
meillo@4 67 koennen Felder ausgewaehlt werden. Das Trennzeichen (per
meillo@4 68 Default der Tab) kann mit `-d' geaendert werden.
meillo@0 69
meillo@0 70 Der typische Anwendungsfall fuer den Feld-Modus. Ist die
meillo@0 71 Extraktion von Information aus der passwd-Datei. So z.B. der
meillo@0 72 Username, die User-ID und das Homeverzeichnis:
meillo@0 73
meillo@6 74 $ cut -d: -f1,3,6 /etc/passwd
meillo@0 75
meillo@0 76 (Die Argumente fuer die Optionen koennen bei cut uebrigens
meillo@0 77 direkt angehaengt oder mit Whitespace abgetrennt folgen.)
meillo@0 78
meillo@0 79
meillo@4 80 Dieser Feld-Modus ist fuer einfache tabellarische Dateien,
meillo@4 81 wie eben die passwd, gut geeignet. Er kommt aber schnell an
meillo@0 82 seine Grenzen. Gerade der uebliche Fall, dass an Whitespace
meillo@0 83 in Felder geteilt werden soll, wird damit nicht abgedeckt.
meillo@0 84 Der Delimiter kann nur genau ein Zeichen sein. Es kann also
meillo@0 85 nicht sowohl an Leerzeichen als auch an Tabs getrennt werden.
meillo@0 86 Auch unterteilt cut an jedem Trennzeichen. Zwei aneinander
meillo@4 87 stehende Trennzeichen fuehren zu einem leeren Feld. Dieses
meillo@4 88 Verhalten widerspricht den Erwartungen fuer eine Datei mit
meillo@4 89 Whitespace-getrennten Feldern. (Manche Implementierungen von
meillo@4 90 cut, z.B. die von FreeBSD, haben deshalb Erweiterungen, die
meillo@4 91 das gewuenschte Verhalten fuer Whitespace-getrennte Felder
meillo@4 92 bieten.) Ansonsten, d.h. wenn man portabel bleiben will,
meillo@4 93 hilft awk.
meillo@0 94
meillo@4 95 Awk bietet noch eine weitere Funktion, die cut missen
meillo@4 96 laesst: Das Tauschen der Felder-Reihenfolge. Bei cut ist die
meillo@4 97 Reihenfolge der Feldauswahl irrelevant; ein Feld kann selbst
meillo@4 98 mehrfach angegeben werden. Der Aufruf von `cut -c 5-8,1,4-6'
meillo@4 99 gibt z.B. die Zeichen Nummer 1, 4, 5, 6, 7 und 8 aus. Die
meillo@4 100 Auswahl aehnelt damit der Mengenlehre in der Mathematik:
meillo@4 101 Jedes angegebene Feld soll in der Ergebnismenge sein. Die
meillo@4 102 Felder der Ergebnismenge werden dabei immer in der gleichen
meillo@4 103 Reihenfolge ausgegeben wie sie in der Eingabe waren.
meillo@0 104
meillo@0 105
meillo@0 106 Geschichtliches
meillo@0 107
meillo@4 108 Cut erblickte 1982 mit dem Release von UNIX System III das
meillo@4 109 Licht der oeffentlichen Welt. Wenn man die Quellen von System
meillo@4 110 III durchforstet, findet man die Quellcodedatei cut.c mit dem
meillo@4 111 Zeitstempel 1980-04-11.
meillo@1 112 [ http://minnie.tuhs.org/cgi-bin/utree.pl?file=SysIII/usr/src/cmd
meillo@4 113 Das ist die aelteste Manifestation des Programms, die ich
meillo@4 114 aufstoebern konnte.
meillo@0 115
meillo@1 116 Aber werfen wir doch einen Blick auf die BSD-Linie: Dort ist mein
meillo@1 117 fruehester Fund ein cut.c mit dem Datum 1986-11-07 im Code der
meillo@6 118 Spezialversion 4.3BSD-UWisc,
meillo@6 119 [ http://gunkies.org/wiki/4.3_BSD_NFS_Wisconsin_Unix
meillo@6 120 die im Januar 1987 veroeffentlicht wurde.
meillo@1 121 [ http://minnie.tuhs.org/cgi-bin/utree.pl?file=4.3BSD-UWisc/src/usr.bin/cut
meillo@4 122 Die Datei unterscheidet sich nur minimal von der aus System III.
meillo@4 123 Im bekannteren 4.3BSD-Tahoe (1988) taucht cut aber nicht auf.
meillo@4 124 Im darauf folgenden 4.3BSD-Reno (1990) gibt es wiederum ein
meillo@4 125 cut ... ein von Adam S. Moskowitz und Marciano Pitargue neu
meillo@4 126 implementiertes cut, das 1989 in BSD aufgenommen wurde.
meillo@1 127 [ http://minnie.tuhs.org/cgi-bin/utree.pl?file=4.3BSD-Reno/src/usr.bin/cut
meillo@4 128 Seine Manpage
meillo@1 129 [ http://minnie.tuhs.org/cgi-bin/utree.pl?file=4.3BSD-Reno/src/usr.bin/cut/cut.1
meillo@4 130 erwaehnt bereits die erwartete Konformitaet mit POSIX.2.
meillo@4 131 Nun sollte man wissen, dass POSIX.2 erst im September
meillo@4 132 1992 veroeffentlicht wurde, gut zwei Jahren *nachdem* die
meillo@4 133 Manpage und das Programm geschrieben wurden. Dieses cut
meillo@4 134 wurde also anhand von Entwuerfen des Standards
meillo@4 135 implementiert. Zweieinhalb Jahre Arbeit war immerhin schon in
meillo@4 136 den Standardisierungsprozess geflossen; bis zur
meillo@4 137 Fertigstellung sollte es noch weitere zwei Jahre dauern.
meillo@0 138
meillo@1 139 Trotz all dieser Jahreszahlen aus den 80er Jahren gehoert cut
meillo@1 140 aus Sicht des urspruenglichen Unix zu den juengeren Tools.
meillo@1 141 Wenn cut auch ein Jahrzehnt aelter als Linux, der Kernel, ist,
meillo@4 142 so war Unix doch schon ueber zehn Jahre alt, als cut das
meillo@4 143 erste Mal auftauchte. Insbesondere gehoerte cut noch nicht
meillo@4 144 zu Version 7 Unix, das die Ausgangsbasis aller modernen
meillo@4 145 Unix-Systeme darstellt. Die weit komplexeren Programme sed
meillo@4 146 und awk waren dort schon vertreten. Man muss sich also
meillo@4 147 fragen, warum cut ueberhaupt noch entwickelt wurde, wo es
meillo@4 148 schon zwei Programme gab, die die Aufgabe von cut bereits
meillo@4 149 abdeckten. Ein Argument fuer cut ist seine Kompaktheit und
meillo@4 150 die damit verbundene Geschwindigkeit gegenueber dem damals
meillo@4 151 traegen awk. Diese schlanke Gestalt ist es auch, die der Unix
meillo@4 152 Philosopie entspricht: Mache eine Aufgabe und die richtig!
meillo@4 153 So bewaehrte sich cut. Es wurde in andere Unix Varianten
meillo@4 154 uebernommen, standardisiert und ist heutzutage ueberall
meillo@1 155 anzutreffen.
meillo@1 156
meillo@5 157 Die urspruengliche Variante (ohne -b) taucht schon 1985 in
meillo@5 158 der System V Interface Definition, einer wichtigen formalen
meillo@5 159 Beschreibung von UNIX System V, und in allen relevanten
meillo@5 160 Standards seither auf. Mit POSIX.2 im Jahre 1992 wurde cut
meillo@5 161 zum ersten Mal in der heutigen Form (mit -b) standardisiert.
meillo@1 162
meillo@1 163
meillo@2 164 Beschreibungen
meillo@1 165
meillo@2 166 Interessant ist ein Vergleich der Kurzbeschreibungen von cut,
meillo@3 167 wie sie sich in der Titelzeile von Manpages oder manchmal auch
meillo@5 168 am Anfang der Quellcodedatei finden.
meillo@2 169
meillo@5 170 Die folgende Liste ist grob nach Zeit geordnet und nach
meillo@5 171 Abstammung gruppiert:
meillo@3 172
meillo@3 173
meillo@2 174 System III cut out selected fields of each line of a file
meillo@3 175 System III (src) cut and paste columns of a table (projection of a relation)
meillo@2 176 System V cut out selected fields of each line of a file
meillo@2 177 HP-UX cut out (extract) selected fields of each line of a file
meillo@2 178
meillo@3 179 4.3BSD-UWisc (src) cut and paste columns of a table (projection of a relation)
meillo@2 180 4.3BSD-Reno select portions of each line of a file
meillo@2 181 NetBSD select portions of each line of a file
meillo@2 182 FreeBSD 1.0 select portions of each line of a file
meillo@3 183 FreeBSD 7.0 cut out selected portions of each line of a file
meillo@2 184 SunOS 4.1.3 remove selected fields from each line of a file
meillo@2 185 SunOS 5.5.1 cut out selected fields of each line of a file
meillo@2 186
meillo@2 187 POSIX cut out selected fields of each line of a file
meillo@2 188
meillo@2 189 GNU coreutils remove sections from each line of files
meillo@2 190
meillo@2 191 Minix select out columns of a file
meillo@2 192
meillo@2 193 Version 8 Unix rearrange columns of data
meillo@2 194 ``Unix Reader'' rearrange columns of text
meillo@2 195
meillo@2 196
meillo@5 197 Die zwei mit ``(src)'' markierten Beschreibungen sind aus
meillo@5 198 dem Quellcode entnommen, und verdeutlichen den Codetransfer.
meillo@5 199 POSIX ist ein Set von Standards, keine Implementierung. Der
meillo@5 200 ``Unix Reader'' ist ein rueckblickendes Textdokument von
meillo@5 201 Doug McIlroy, das das Auftreten von Tools in der Geschichte
meillo@5 202 des Research Unix zum Thema hat. Alle uebrigen Beschreibungen
meillo@5 203 entstammen den Manpages.
meillo@5 204
meillo@5 205 Zumeist ist mit der Zeit die POSIX-Beschreibung uebernommen
meillo@5 206 worden, wie beispielsweise bei FreeBSD zu sehen.
meillo@5 207 [ https://svnweb.freebsd.org/base?view=revision&revision=167101
meillo@5 208
meillo@5 209 Interessant ist, dass die GNU coreutils unveraendert vom
meillo@5 210 Entfernen von Teilen der Eingabe sprechen, wohingegen die
meillo@5 211 Kommandozeilenangabe klar ein Auswaehlen darstellt. Die
meillo@5 212 Worte ``cut out'' sind vielleicht auch nicht klar genug.
meillo@5 213 HP-UX hat sie deshalb praezisiert.
meillo@5 214
meillo@5 215 Auch beim Begriff, was denn nun selektiert wird, ist man sich
meillo@5 216 uneins. Die einen reden von Feldern (POSIX), andere von
meillo@5 217 Abschnitten bzw. Teilen (BSD) und wieder andere von Spalten
meillo@5 218 (Research Unix). Ironischerweise leistet sich gerade Version
meillo@5 219 8 Unix, das eigentlich um eine sehr treffende Weltsicht
meillo@5 220 bemueht ist, mit ``rearrange columns of data'' die
meillo@5 221 unzutreffendste der Beschreibungen.
meillo@5 222
meillo@5 223
meillo@2 224
meillo@3 225 Codevergleich
meillo@2 226
meillo@2 227
meillo@2 228
meillo@5 229
meillo@6 230 B-) wc -lc cut.c* | sort -n
meillo@6 231 123 2966 cut.c__system_iii.1980-04-11
meillo@6 232 125 3038 cut.c__4.3bsd-uwisc.1986-11-07
meillo@6 233 256 5715 cut.c__4.3bsd-reno.1990-06-25
meillo@6 234 270 6545 cut.c__netbsd.1993-03-21
meillo@6 235 296 6920 cut.c__freebsd.1994-05-27
meillo@6 236 306 7500 cut.c__netbsd.2014-02-03 *
meillo@6 237 479 10961 cut.c__freebsd.2012-11-24 *
meillo@6 238 586 14175 cut.c__gnu.1992-11-08 *
meillo@6 239 830 23167 cut.c__gnu.2015-05-01 *
meillo@6 240 3271 80987 total
meillo@6 241
meillo@6 242 B-) c_count cut.c* | sort -n
meillo@6 243 Total:
meillo@6 244 116 cut.c__system_iii.1980-04-11
meillo@6 245 118 cut.c__4.3bsd-uwisc.1986-11-07
meillo@6 246 200 cut.c__4.3bsd-reno.1990-06-25
meillo@6 247 200 cut.c__netbsd.1993-03-21
meillo@6 248 224 cut.c__freebsd.1994-05-27
meillo@6 249 232 cut.c__netbsd.2014-02-03 *
meillo@6 250 382 cut.c__gnu.1992-11-08 *
meillo@6 251 391 cut.c__freebsd.2012-11-24 *
meillo@6 252 588 cut.c__gnu.2015-05-01 *
meillo@6 253 2451
meillo@6 254
meillo@6 255 (* == version hat -b)
meillo@6 256
meillo@6 257
meillo@5 258
meillo@5 259
meillo@5 260 cut(1) in Version 8 Unix
meillo@5 261 ``In data base parlance, it projects a relation.''
meillo@6 262
meillo@6 263
meillo@6 264
meillo@6 265 Autoreninfo
meillo@6 266
meillo@6 267 Markus Schnalke interessiert sich fuer die Hintergruende
meillo@6 268 von Unix und seinen Werkzeugen. Fuer die Erarbeitung dieses
meillo@6 269 Textes wurde er regelrecht zum Historiker.
meillo@6 270
meillo@6 271
meillo@6 272 Lizenz
meillo@6 273 CC0 (und kann damit auch unter CC BY-SA 4.0 Unported
meillo@6 274 veroeffentlicht werden)