Google File System - Versionsgeschichte

Meinichselbst: Parameter fix

2025-06-08T16:39:51Z

Parameter fix

← Nächstältere Version		Version vom 8. Juni 2025, 18:39 Uhr
Zeile 25:		Zeile 25:
	== Einzelnachweise ==		== Einzelnachweise ==
	<references responsive>		<references responsive>
	<ref name="google-fs-paper-2003">{{Cite book \|doi=10.1145/945445.945450 \|chapter=The Google file system \|title=Proceedings of the nineteenth ACM Symposium on Operating Systems Principles – SOSP '03 \|pages=29 \|year=2003 \|author=S. Ghemawat, H. Gobioff, S. T. Leung <!--\|citeseerx=10.1.1.125.789--> \|isbn=1-58113-757-5 <!--\|s2cid=221261373--> \|url=http://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf}}</ref>		<ref name="google-fs-paper-2003">{{Cite book \|doi=10.1145/945445.945450 \|chapter=The Google file system \|title=Proceedings of the nineteenth ACM Symposium on Operating Systems Principles – SOSP '03 \|pages=29 \|year=2003 \|author=S. Ghemawat, H. Gobioff, S. T. Leung <!--\|citeseerx=10.1.1.125.789--> \|isbn=1-58113-757-5 <!--\|s2cid=221261373--> \|url=http://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf \|language=en}}</ref>
	<ref name="google-fs-2-2009">{{Internetquelle \|titel=GFS: Evolution on Fast-forward \|url=https://queue.acm.org/detail.cfm?id=1594206 \|sprache=en \|abruf=2021-02-24}}</ref>		<ref name="google-fs-2-2009">{{Internetquelle \|titel=GFS: Evolution on Fast-forward \|url=https://queue.acm.org/detail.cfm?id=1594206 \|sprache=en \|abruf=2021-02-24}}</ref>
	</references>		</references>

Peb99: /* growthexperiments-addlink-summary-summary:2|0|0 */

2025-03-10T11:44:21Z

Linkvorschlag-Funktion: 2 Links hinzugefügt.

← Nächstältere Version		Version vom 10. März 2025, 13:44 Uhr
Zeile 12:		Zeile 12:
	Der Master speichert keine Chunks, sondern vielmehr deren [[Metadaten]], wie etwa [[Dateiname]]n, Dateigrößen, ihren Speicherort sowie den ihrer Kopien, welche [[Prozess (Informatik)\|Prozesse]] gerade auf welchen Chunk zugreifen etc. Die Master erhalten jegliche Anfragen für eine Datei und liefern als Antwort die dazugehörigen Chunkserver und erteilen entsprechende Sperren an den Prozess. Ein Client darf allerdings für gewisse Zeit die Adresse der Chunkserver [[cache]]n. Fällt die Anzahl an verfügbaren Replikas unter die Normzahl, sind es auch die Master, die die Erstellung einer neuen Chunkkopie anstoßen. Die Metadaten werden aktuell gehalten, indem die Master regelmäßig Aktualisierungsanfragen an die Chunkserver senden („[[Heartbeat (Informatik)\|heart-beat]] messages“, auf Deutsch etwa: „Herzschlag-Nachrichten“).		Der Master speichert keine Chunks, sondern vielmehr deren [[Metadaten]], wie etwa [[Dateiname]]n, Dateigrößen, ihren Speicherort sowie den ihrer Kopien, welche [[Prozess (Informatik)\|Prozesse]] gerade auf welchen Chunk zugreifen etc. Die Master erhalten jegliche Anfragen für eine Datei und liefern als Antwort die dazugehörigen Chunkserver und erteilen entsprechende Sperren an den Prozess. Ein Client darf allerdings für gewisse Zeit die Adresse der Chunkserver [[cache]]n. Fällt die Anzahl an verfügbaren Replikas unter die Normzahl, sind es auch die Master, die die Erstellung einer neuen Chunkkopie anstoßen. Die Metadaten werden aktuell gehalten, indem die Master regelmäßig Aktualisierungsanfragen an die Chunkserver senden („[[Heartbeat (Informatik)\|heart-beat]] messages“, auf Deutsch etwa: „Herzschlag-Nachrichten“).

	Design und Implementierung des GFS sehen nur einen Master pro Cluster vor. Dies hat den Anschein, ein Fehler im System zu sein, der dessen [[Skalierbarkeit]] und Zuverlässigkeit begrenzt, da die maximale Größe und [[Uptime]] von der Leistungsfähigkeit und Uptime des Masters abhängt, da dieser die Metadaten katalogisiert und fast alle Anfragen durch ihn laufen; Googles Techniker haben allerdings durch Messungen gezeigt, dass dies (zumindest bis jetzt) nicht der Fall und GFS sehr wohl skalierbar ist. Der Master ist im Normalfall der leistungsfähigste Netzknoten im Netzwerk. Um die Ausfallsicherheit sicherzustellen, gibt es mehrere „Schatten-Master“, die den Hauptrechner spiegeln und notfalls, sollte der Master einmal ausfallen, sofort einspringen. Zusätzlich stehen die Schattenmaster auch für reine Leseanfragen, die ja den Haupttraffic ausmachen, zur Verfügung, so dass sich die Skalierbarkeit dadurch weiter erhöht. Engstellen gibt es nur selten, da [[Client]]s nur nach Metadaten fragen, die komplett im Arbeitsspeicher als [[B-Baum]] vorgehalten werden – sie sind sehr kompakt, pro Megabyte Daten fallen lediglich einige Bytes an. Durch den Einsatz nur eines Hauptknotens verringert sich die Software[[Komplexität (Informatik)\|komplexität]] drastisch, da Schreiboperationen nicht koordiniert werden müssen.		Design und Implementierung des GFS sehen nur einen Master pro Cluster vor. Dies hat den Anschein, ein Fehler im System zu sein, der dessen [[Skalierbarkeit]] und Zuverlässigkeit begrenzt, da die maximale Größe und [[Uptime]] von der Leistungsfähigkeit und Uptime des Masters abhängt, da dieser die Metadaten katalogisiert und fast alle Anfragen durch ihn laufen; Googles Techniker haben allerdings durch Messungen gezeigt, dass dies (zumindest bis jetzt) nicht der Fall und GFS sehr wohl skalierbar ist. Der Master ist im Normalfall der leistungsfähigste Netzknoten im Netzwerk. Um die [[Ausfallsicherheit]] sicherzustellen, gibt es mehrere „Schatten-Master“, die den Hauptrechner spiegeln und notfalls, sollte der Master einmal ausfallen, sofort einspringen. Zusätzlich stehen die Schattenmaster auch für reine Leseanfragen, die ja den Haupttraffic ausmachen, zur Verfügung, so dass sich die Skalierbarkeit dadurch weiter erhöht. Engstellen gibt es nur selten, da [[Client]]s nur nach Metadaten fragen, die komplett im [[Arbeitsspeicher]] als [[B-Baum]] vorgehalten werden – sie sind sehr kompakt, pro Megabyte Daten fallen lediglich einige Bytes an. Durch den Einsatz nur eines Hauptknotens verringert sich die Software[[Komplexität (Informatik)\|komplexität]] drastisch, da Schreiboperationen nicht koordiniert werden müssen.

	== Literatur ==		== Literatur ==

DerMaxdorfer: Wikilink Latenzzeit korrigiert

2023-12-01T08:45:57Z

Wikilink Latenzzeit korrigiert

← Nächstältere Version		Version vom 1. Dezember 2023, 10:45 Uhr
Zeile 1:		Zeile 1:
	Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres [[verteiltes Dateisystem]] für Linux-basierte Systeme, das Google intern entwickelte, um große Datenmengen vor allem aus dem Index der [[Google-Suche]] und später auch aus [[Gmail]] zu speichern und zu verarbeiten.<ref name="google-fs-paper-2003" /><ref name="google-fs-2-2009" /> Das Google File System kennt zwei Arten von Komponenten: die Master- und die Chunkserver. Erstere halten lediglich Metainformationen über Dateien, während letztere die tatsächlichen Daten auf einem klassischen [[Linux]]-[[Dateisystem]] persistieren. Das Google File System unterteilt die Dateien dafür in [[Datenblock\|Chunks]], so dass eine Datei auf mehrere Server aufgeteilt werden kann. In der ersten Version war jeder Chunk 64 Megabyte groß, während die Größe später auf 1 MB aktualisiert wurde (Stand 2009).<ref name="google-fs-2-2009" /> Das Google File System arbeitet eine Abstraktionsebene höher als typische Dateisysteme und kümmert sich lediglich um die Verteilung, unter Gewährleistung von [[Verfügbarkeit]] und [[Konsistenz (Datenspeicherung)\|Konsistenz]] der Daten.<ref name="google-fs-paper-2003" /> Es ist für einen hohen Datendurchsatz optimiert und kann hunderte von Terabytes verteilt auf tausende Festplatten auf tausenden Maschinen verwalten.<ref name="google-fs-2-2009" />		Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres [[verteiltes Dateisystem]] für Linux-basierte Systeme, das Google intern entwickelte, um große Datenmengen vor allem aus dem Index der [[Google Suche\|Google-Suche]] und später auch aus [[Gmail]] zu speichern und zu verarbeiten.<ref name="google-fs-paper-2003" /><ref name="google-fs-2-2009" /> Das Google File System kennt zwei Arten von Komponenten: die Master- und die Chunkserver. Erstere halten lediglich Metainformationen über Dateien, während letztere die tatsächlichen Daten auf einem klassischen [[Linux]]-[[Dateisystem]] persistieren. Das Google File System unterteilt die Dateien dafür in [[Datenblock\|Chunks]], so dass eine Datei auf mehrere Server aufgeteilt werden kann. In der ersten Version war jeder Chunk 64 Megabyte groß, während die Größe später auf 1 MB aktualisiert wurde (Stand 2009).<ref name="google-fs-2-2009" /> Das Google File System arbeitet eine Abstraktionsebene höher als typische Dateisysteme und kümmert sich lediglich um die Verteilung, unter Gewährleistung von [[Verfügbarkeit]] und [[Konsistenz (Datenspeicherung)\|Konsistenz]] der Daten.<ref name="google-fs-paper-2003" /> Es ist für einen hohen Datendurchsatz optimiert und kann hunderte von Terabytes verteilt auf tausende Festplatten auf tausenden Maschinen verwalten.<ref name="google-fs-2-2009" />

	== Aufbau ==		== Aufbau ==
	Das Google File System ist an die notwendigen Anforderungen der ''Websuche'' angepasst, die eine enorme Menge an zu speichernden Daten generiert. GFS entstand aus einem früheren Versuch Googles, welcher den Namen „BigFiles“ trägt und von [[Larry Page]] sowie [[Sergey Brin]] während ihrer Forschungstätigkeit an der [[Stanford University]] entwickelt wurde.		Das Google File System ist an die notwendigen Anforderungen der ''Websuche'' angepasst, die eine enorme Menge an zu speichernden Daten generiert. GFS entstand aus einem früheren Versuch Googles, welcher den Namen „BigFiles“ trägt und von [[Larry Page]] sowie [[Sergey Brin]] während ihrer Forschungstätigkeit an der [[Stanford University]] entwickelt wurde.

	Die Daten werden durchgehend in sehr großen, teilweise sogar mehrere [[Speicherkapazität\|Gigabyte]] großen Dateien gespeichert, welche nur in extrem seltenen Fällen gelöscht, überschrieben oder [[Datenkompression\|komprimiert]] werden; Daten werden üblicherweise angehängt oder ausgelesen. Das [[Dateisystem]] ist auch entworfen und optimiert worden, um auf Googles rechnenden [[Rechnerverbund\|Clustern]] laufen zu können, deren [[Netzwerkelement\|Netzknoten]] aus handelsüblichen PCs bestehen. Dies bedeutet allerdings auch, dass man die hohe Ausfallrate und den damit verbundenen Datenverlust individueller Netzknoten als Normalzustand ansehen muss. Das äußert sich auch darin, dass kein Unterschied zwischen normaler (Herunterfahren) und abnormaler Beendigung (Absturz) gemacht wird: Serverprozesse werden standardmäßig per [[Kill (Unix)\|Killbefehl]] beendet. Andere Designentscheidungen setzen auf hohe Datendurchsatzraten, auch wenn dies auf Kosten der [[~~Verzögerungszeit~~\|Latenzzeit]] geht.		Die Daten werden durchgehend in sehr großen, teilweise sogar mehrere [[Speicherkapazität\|Gigabyte]] großen Dateien gespeichert, welche nur in extrem seltenen Fällen gelöscht, überschrieben oder [[Datenkompression\|komprimiert]] werden; Daten werden üblicherweise angehängt oder ausgelesen. Das [[Dateisystem]] ist auch entworfen und optimiert worden, um auf Googles rechnenden [[Rechnerverbund\|Clustern]] laufen zu können, deren [[Netzwerkelement\|Netzknoten]] aus handelsüblichen PCs bestehen. Dies bedeutet allerdings auch, dass man die hohe Ausfallrate und den damit verbundenen Datenverlust individueller Netzknoten als Normalzustand ansehen muss. Das äußert sich auch darin, dass kein Unterschied zwischen normaler (Herunterfahren) und abnormaler Beendigung (Absturz) gemacht wird: Serverprozesse werden standardmäßig per [[Kill (Unix)\|Killbefehl]] beendet. Andere Designentscheidungen setzen auf hohe Datendurchsatzraten, auch wenn dies auf Kosten der [[Verzögerung (Telekommunikation)\|Latenzzeit]] geht.

	Ein ''GFS Cluster'' besteht aus einem ''Master'' und hunderten oder tausenden ''Chunkservern''. Die Chunkserver speichern die Dateien, wobei jede Datei in 64 MB große Stücke ''(„Chunks“)'' gespalten ist, ähnlich [[Cluster (Datenträger)\|Clustern]] oder [[Datenblock\|Sektoren]] in gebräuchlichen Dateisystemen.		Ein ''GFS Cluster'' besteht aus einem ''Master'' und hunderten oder tausenden ''Chunkservern''. Die Chunkserver speichern die Dateien, wobei jede Datei in 64 MB große Stücke ''(„Chunks“)'' gespalten ist, ähnlich [[Cluster (Datenträger)\|Clustern]] oder [[Datenblock\|Sektoren]] in gebräuchlichen Dateisystemen.
Zeile 25:		Zeile 25:
	== Einzelnachweise ==		== Einzelnachweise ==
	<references responsive>		<references responsive>
	<ref name="google-fs-paper-2003">{{Cite book \|doi=10.1145/945445.945450 \|chapter=The Google file system \|title=Proceedings of the nineteenth ACM Symposium on Operating Systems Principles – SOSP '03 \|pages=29 \|year=2003 \|author=S. Ghemawat, H. Gobioff, S. T. Leung <!--\|citeseerx=10.1.1.125.789--> \|isbn=~~1581137575~~ <!--\|s2cid=221261373--> \|url=http://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf}}</ref>		<ref name="google-fs-paper-2003">{{Cite book \|doi=10.1145/945445.945450 \|chapter=The Google file system \|title=Proceedings of the nineteenth ACM Symposium on Operating Systems Principles – SOSP '03 \|pages=29 \|year=2003 \|author=S. Ghemawat, H. Gobioff, S. T. Leung <!--\|citeseerx=10.1.1.125.789--> \|isbn=1-58113-757-5 <!--\|s2cid=221261373--> \|url=http://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf}}</ref>
	<ref name="google-fs-2-2009">{{Internetquelle \|titel=GFS: Evolution on Fast-forward \|url=https://queue.acm.org/detail.cfm?id=1594206 \|sprache=en \|abruf=2021-02-24}}</ref>		<ref name="google-fs-2-2009">{{Internetquelle \|titel=GFS: Evolution on Fast-forward \|url=https://queue.acm.org/detail.cfm?id=1594206 \|sprache=en \|abruf=2021-02-24}}</ref>
	</references>		</references>

Beegies: doppelte Namensauszeichnungen korrigiert

2023-11-17T16:41:31Z

doppelte Namensauszeichnungen korrigiert

← Nächstältere Version		Version vom 17. November 2023, 18:41 Uhr
Zeile 2:		Zeile 2:

	== Aufbau ==		== Aufbau ==
	Das Google File System ist an die notwendigen Anforderungen der ''Websuche'' angepasst, die eine enorme Menge an zu speichernden Daten generiert. GFS entstand aus einem früheren Versuch Googles, welcher den Namen ''„BigFiles“'' trägt und von [[Larry Page]] sowie [[Sergey Brin]] während ihrer Forschungstätigkeit an der [[Stanford University]] entwickelt wurde.		Das Google File System ist an die notwendigen Anforderungen der ''Websuche'' angepasst, die eine enorme Menge an zu speichernden Daten generiert. GFS entstand aus einem früheren Versuch Googles, welcher den Namen „BigFiles“ trägt und von [[Larry Page]] sowie [[Sergey Brin]] während ihrer Forschungstätigkeit an der [[Stanford University]] entwickelt wurde.

	Die Daten werden durchgehend in sehr großen, teilweise sogar mehrere [[Speicherkapazität\|Gigabyte]] großen Dateien gespeichert, welche nur in extrem seltenen Fällen gelöscht, überschrieben oder [[Datenkompression\|komprimiert]] werden; Daten werden üblicherweise angehängt oder ausgelesen. Das [[Dateisystem]] ist auch entworfen und optimiert worden, um auf Googles rechnenden [[Rechnerverbund\|Clustern]] laufen zu können, deren [[Netzwerkelement\|Netzknoten]] aus handelsüblichen PCs bestehen. Dies bedeutet allerdings auch, dass man die hohe Ausfallrate und den damit verbundenen Datenverlust individueller Netzknoten als Normalzustand ansehen muss. Das äußert sich auch darin, dass kein Unterschied zwischen normaler (Herunterfahren) und abnormaler Beendigung (Absturz) gemacht wird: Serverprozesse werden standardmäßig per [[Kill (Unix)\|Killbefehl]] beendet. Andere Designentscheidungen setzen auf hohe Datendurchsatzraten, auch wenn dies auf Kosten der [[Verzögerungszeit\|Latenzzeit]] geht.		Die Daten werden durchgehend in sehr großen, teilweise sogar mehrere [[Speicherkapazität\|Gigabyte]] großen Dateien gespeichert, welche nur in extrem seltenen Fällen gelöscht, überschrieben oder [[Datenkompression\|komprimiert]] werden; Daten werden üblicherweise angehängt oder ausgelesen. Das [[Dateisystem]] ist auch entworfen und optimiert worden, um auf Googles rechnenden [[Rechnerverbund\|Clustern]] laufen zu können, deren [[Netzwerkelement\|Netzknoten]] aus handelsüblichen PCs bestehen. Dies bedeutet allerdings auch, dass man die hohe Ausfallrate und den damit verbundenen Datenverlust individueller Netzknoten als Normalzustand ansehen muss. Das äußert sich auch darin, dass kein Unterschied zwischen normaler (Herunterfahren) und abnormaler Beendigung (Absturz) gemacht wird: Serverprozesse werden standardmäßig per [[Kill (Unix)\|Killbefehl]] beendet. Andere Designentscheidungen setzen auf hohe Datendurchsatzraten, auch wenn dies auf Kosten der [[Verzögerungszeit\|Latenzzeit]] geht.
Zeile 10:		Zeile 10:
	Um Datenverlust zu verhindern, wird jede Datei beim GFS standardmäßig mindestens dreimal pro Cluster gespeichert. Bei Ausfall eines Chunkservers treten nur verschwindend geringe Verzögerungen auf, bis die Datei wieder ihre Standardanzahl an Replikas besitzt. Je nach Bedarf kann die Anzahl auch höher liegen, etwa bei [[Ausführbare Datei\|ausführbaren Dateien]]. Jedem Chunk wird eine eindeutige, 64 Bit lange Kennzeichnung zugewiesen, logische Mappings der Dateien zu den einzelnen Chunks werden beibehalten.		Um Datenverlust zu verhindern, wird jede Datei beim GFS standardmäßig mindestens dreimal pro Cluster gespeichert. Bei Ausfall eines Chunkservers treten nur verschwindend geringe Verzögerungen auf, bis die Datei wieder ihre Standardanzahl an Replikas besitzt. Je nach Bedarf kann die Anzahl auch höher liegen, etwa bei [[Ausführbare Datei\|ausführbaren Dateien]]. Jedem Chunk wird eine eindeutige, 64 Bit lange Kennzeichnung zugewiesen, logische Mappings der Dateien zu den einzelnen Chunks werden beibehalten.

	Der Master speichert keine Chunks, sondern vielmehr deren [[Metadaten]], wie etwa [[Dateiname]]n, Dateigrößen, ihren Speicherort sowie den ihrer Kopien, welche [[Prozess (Informatik)\|Prozesse]] gerade auf welchen Chunk zugreifen etc. Die Master erhalten jegliche Anfragen für eine Datei und liefern als Antwort die dazugehörigen Chunkserver und erteilen entsprechende Sperren an den Prozess. Ein Client darf allerdings für gewisse Zeit die Adresse der Chunkserver [[cache]]n. Fällt die Anzahl an verfügbaren Replikas unter die Normzahl, sind es auch die Master, die die Erstellung einer neuen Chunkkopie anstoßen. Die Metadaten werden aktuell gehalten, indem die Master regelmäßig Aktualisierungsanfragen an die Chunkserver senden (''„[[Heartbeat (Informatik)\|heart-beat]] messages“'', auf Deutsch etwa: ''„Herzschlag-Nachrichten“'').		Der Master speichert keine Chunks, sondern vielmehr deren [[Metadaten]], wie etwa [[Dateiname]]n, Dateigrößen, ihren Speicherort sowie den ihrer Kopien, welche [[Prozess (Informatik)\|Prozesse]] gerade auf welchen Chunk zugreifen etc. Die Master erhalten jegliche Anfragen für eine Datei und liefern als Antwort die dazugehörigen Chunkserver und erteilen entsprechende Sperren an den Prozess. Ein Client darf allerdings für gewisse Zeit die Adresse der Chunkserver [[cache]]n. Fällt die Anzahl an verfügbaren Replikas unter die Normzahl, sind es auch die Master, die die Erstellung einer neuen Chunkkopie anstoßen. Die Metadaten werden aktuell gehalten, indem die Master regelmäßig Aktualisierungsanfragen an die Chunkserver senden („[[Heartbeat (Informatik)\|heart-beat]] messages“, auf Deutsch etwa: „Herzschlag-Nachrichten“).

	Design und Implementierung des GFS sehen nur einen Master pro Cluster vor. Dies hat den Anschein, ein Fehler im System zu sein, der dessen [[Skalierbarkeit]] und Zuverlässigkeit begrenzt, da die maximale Größe und [[Uptime]] von der Leistungsfähigkeit und Uptime des Masters abhängt, da dieser die Metadaten katalogisiert und fast alle Anfragen durch ihn laufen; Googles Techniker haben allerdings durch Messungen gezeigt, dass dies (zumindest bis jetzt) nicht der Fall und GFS sehr wohl skalierbar ist. Der Master ist im Normalfall der leistungsfähigste Netzknoten im Netzwerk. Um die Ausfallsicherheit sicherzustellen, gibt es mehrere ''„Schatten-Master“'', die den Hauptrechner spiegeln und notfalls, sollte der Master einmal ausfallen, sofort einspringen. Zusätzlich stehen die Schattenmaster auch für reine Leseanfragen, die ja den Haupttraffic ausmachen, zur Verfügung, so dass sich die Skalierbarkeit dadurch weiter erhöht. Engstellen gibt es nur selten, da [[Client]]s nur nach Metadaten fragen, die komplett im Arbeitsspeicher als [[B-Baum]] vorgehalten werden – sie sind sehr kompakt, pro Megabyte Daten fallen lediglich einige Bytes an. Durch den Einsatz nur eines Hauptknotens verringert sich die Software[[Komplexität (Informatik)\|komplexität]] drastisch, da Schreiboperationen nicht koordiniert werden müssen.		Design und Implementierung des GFS sehen nur einen Master pro Cluster vor. Dies hat den Anschein, ein Fehler im System zu sein, der dessen [[Skalierbarkeit]] und Zuverlässigkeit begrenzt, da die maximale Größe und [[Uptime]] von der Leistungsfähigkeit und Uptime des Masters abhängt, da dieser die Metadaten katalogisiert und fast alle Anfragen durch ihn laufen; Googles Techniker haben allerdings durch Messungen gezeigt, dass dies (zumindest bis jetzt) nicht der Fall und GFS sehr wohl skalierbar ist. Der Master ist im Normalfall der leistungsfähigste Netzknoten im Netzwerk. Um die Ausfallsicherheit sicherzustellen, gibt es mehrere „Schatten-Master“, die den Hauptrechner spiegeln und notfalls, sollte der Master einmal ausfallen, sofort einspringen. Zusätzlich stehen die Schattenmaster auch für reine Leseanfragen, die ja den Haupttraffic ausmachen, zur Verfügung, so dass sich die Skalierbarkeit dadurch weiter erhöht. Engstellen gibt es nur selten, da [[Client]]s nur nach Metadaten fragen, die komplett im Arbeitsspeicher als [[B-Baum]] vorgehalten werden – sie sind sehr kompakt, pro Megabyte Daten fallen lediglich einige Bytes an. Durch den Einsatz nur eines Hauptknotens verringert sich die Software[[Komplexität (Informatik)\|komplexität]] drastisch, da Schreiboperationen nicht koordiniert werden müssen.

	== Literatur ==		== Literatur ==

Emberwit: linkziel, form

2023-08-06T20:11:23Z

linkziel, form

← Nächstältere Version		Version vom 6. August 2023, 22:11 Uhr
Zeile 1:		Zeile 1:
	Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres [[verteiltes Dateisystem]] für Linux-basierte Systeme, das Google intern entwickelte, um große Datenmengen vor allem aus dem Index der [[~~Google\|~~Google-Suche]] und später auch aus [[Gmail]] zu speichern und zu verarbeiten.<ref name="google-fs-paper-2003"/><ref name="google-fs-2-2009"/> Das Google File System kennt zwei Arten von Komponenten: die Master- und die Chunkserver. Erstere halten lediglich Metainformationen über Dateien, während letztere die tatsächlichen Daten auf einem klassischen [[Linux]]-[[Dateisystem]] persistieren. Das Google File System unterteilt die Dateien dafür in [[Datenblock\|Chunks]], so dass eine Datei auf mehrere Server aufgeteilt werden kann. In der ersten Version war jeder Chunk 64 Megabyte groß, während die Größe später auf 1 MB aktualisiert wurde (Stand 2009).<ref name="google-fs-2-2009"/> Das Google File System arbeitet eine Abstraktionsebene höher als typische Dateisysteme und kümmert sich lediglich um die Verteilung, unter Gewährleistung von [[Verfügbarkeit]] und [[Konsistenz (Datenspeicherung)\|Konsistenz]] der Daten.<ref name="google-fs-paper-2003"/> Es ist für einen hohen Datendurchsatz optimiert und kann hunderte von Terabytes verteilt auf tausende Festplatten auf tausenden Maschinen verwalten.<ref name="google-fs-2-2009"/>		Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres [[verteiltes Dateisystem]] für Linux-basierte Systeme, das Google intern entwickelte, um große Datenmengen vor allem aus dem Index der [[Google-Suche]] und später auch aus [[Gmail]] zu speichern und zu verarbeiten.<ref name="google-fs-paper-2003" /><ref name="google-fs-2-2009" /> Das Google File System kennt zwei Arten von Komponenten: die Master- und die Chunkserver. Erstere halten lediglich Metainformationen über Dateien, während letztere die tatsächlichen Daten auf einem klassischen [[Linux]]-[[Dateisystem]] persistieren. Das Google File System unterteilt die Dateien dafür in [[Datenblock\|Chunks]], so dass eine Datei auf mehrere Server aufgeteilt werden kann. In der ersten Version war jeder Chunk 64 Megabyte groß, während die Größe später auf 1 MB aktualisiert wurde (Stand 2009).<ref name="google-fs-2-2009" /> Das Google File System arbeitet eine Abstraktionsebene höher als typische Dateisysteme und kümmert sich lediglich um die Verteilung, unter Gewährleistung von [[Verfügbarkeit]] und [[Konsistenz (Datenspeicherung)\|Konsistenz]] der Daten.<ref name="google-fs-paper-2003" /> Es ist für einen hohen Datendurchsatz optimiert und kann hunderte von Terabytes verteilt auf tausende Festplatten auf tausenden Maschinen verwalten.<ref name="google-fs-2-2009" />

	== Aufbau ==		== Aufbau ==

Nameless23 am 19. November 2021 um 05:33 Uhr

2021-11-19T05:33:47Z

← Nächstältere Version		Version vom 19. November 2021, 07:33 Uhr
Zeile 1:		Zeile 1:
	Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres [[verteiltes Dateisystem]] für Linux-basierte Systeme, das Google intern entwickelte, um große Datenmengen vor allem aus dem Index der [[Google\|Google-Suche]] und später auch aus [[Gmail]] zu speichern und zu verarbeiten.<ref name="google-fs-paper-2003"/><ref name="google-fs-2-2009"/> Das Google File System kennt zwei Arten von Komponenten: die Master- und die Chunkserver. Erstere halten lediglich Metainformationen über Dateien, während letztere die tatsächlichen Daten auf einem klassischen [[Linux]]-[[Dateisystem]] persistieren. Das Google File System unterteilt die Dateien dafür in [[Datenblock\|Chunks]], so dass eine Datei auf mehrere Server aufgeteilt werden kann. In der ersten Version war jeder Chunk 64 Megabyte groß, während die Größe später auf 1 MB aktualisiert wurde (Stand 2009).<ref name="google-fs-2-2009"/> Das Google File System arbeitet eine Abstraktionsebene höher, als typische Dateisysteme und kümmert sich lediglich um die Verteilung, unter Gewährleistung von [[Verfügbarkeit]] und [[~~Konsistenz_~~(Datenspeicherung)\|Konsistenz]] der Daten.<ref name="google-fs-paper-2003"/> Es ist für einen hohen Datendurchsatz optimiert und kann hunderte von Terabytes verteilt auf tausende Festplatten auf tausenden Maschinen verwalten.<ref name="google-fs-2-2009"/>		Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres [[verteiltes Dateisystem]] für Linux-basierte Systeme, das Google intern entwickelte, um große Datenmengen vor allem aus dem Index der [[Google\|Google-Suche]] und später auch aus [[Gmail]] zu speichern und zu verarbeiten.<ref name="google-fs-paper-2003"/><ref name="google-fs-2-2009"/> Das Google File System kennt zwei Arten von Komponenten: die Master- und die Chunkserver. Erstere halten lediglich Metainformationen über Dateien, während letztere die tatsächlichen Daten auf einem klassischen [[Linux]]-[[Dateisystem]] persistieren. Das Google File System unterteilt die Dateien dafür in [[Datenblock\|Chunks]], so dass eine Datei auf mehrere Server aufgeteilt werden kann. In der ersten Version war jeder Chunk 64 Megabyte groß, während die Größe später auf 1 MB aktualisiert wurde (Stand 2009).<ref name="google-fs-2-2009"/> Das Google File System arbeitet eine Abstraktionsebene höher als typische Dateisysteme und kümmert sich lediglich um die Verteilung, unter Gewährleistung von [[Verfügbarkeit]] und [[Konsistenz (Datenspeicherung)\|Konsistenz]] der Daten.<ref name="google-fs-paper-2003"/> Es ist für einen hohen Datendurchsatz optimiert und kann hunderte von Terabytes verteilt auf tausende Festplatten auf tausenden Maschinen verwalten.<ref name="google-fs-2-2009"/>

	== Aufbau ==		== Aufbau ==
	Das Google File System ist an die notwendigen Anforderungen der ''Websuche'' angepasst, die eine enorme Menge an zu speichernden Daten generiert. GFS entstand aus einem früheren Versuch Googles, welcher den Namen ''„BigFiles“'' trägt und von [[Larry Page]] sowie [[Sergey Brin]] während ihrer Forschungstätigkeit an der [[Stanford University~~\|Stanford-Universität~~]] entwickelt wurde.		Das Google File System ist an die notwendigen Anforderungen der ''Websuche'' angepasst, die eine enorme Menge an zu speichernden Daten generiert. GFS entstand aus einem früheren Versuch Googles, welcher den Namen ''„BigFiles“'' trägt und von [[Larry Page]] sowie [[Sergey Brin]] während ihrer Forschungstätigkeit an der [[Stanford University]] entwickelt wurde.

	Die Daten werden durchgehend in sehr großen, teilweise sogar mehrere [[Speicherkapazität\|Gigabyte]] großen Dateien gespeichert, welche nur in extrem seltenen Fällen gelöscht, überschrieben oder [[Datenkompression\|komprimiert]] werden; Daten werden üblicherweise angehängt oder ausgelesen. Das [[Dateisystem]] ist auch entworfen und optimiert worden, um auf Googles rechnenden [[Rechnerverbund\|Clustern]] laufen zu können, deren [[Netzwerkelement\|Netzknoten]] aus handelsüblichen PCs bestehen. Dies bedeutet allerdings auch, dass man die hohe Ausfallrate und den damit verbundenen Datenverlust individueller Netzknoten als Normalzustand ansehen muss. Das äußert sich auch darin, dass kein Unterschied zwischen normaler (Herunterfahren) und abnormaler Beendigung (Absturz) gemacht wird: Serverprozesse werden standardmäßig per [[Kill (Unix)\|Killbefehl]] beendet. Andere Designentscheidungen setzen auf hohe Datendurchsatzraten, auch wenn dies auf Kosten der [[Verzögerungszeit\|Latenzzeit]] geht.		Die Daten werden durchgehend in sehr großen, teilweise sogar mehrere [[Speicherkapazität\|Gigabyte]] großen Dateien gespeichert, welche nur in extrem seltenen Fällen gelöscht, überschrieben oder [[Datenkompression\|komprimiert]] werden; Daten werden üblicherweise angehängt oder ausgelesen. Das [[Dateisystem]] ist auch entworfen und optimiert worden, um auf Googles rechnenden [[Rechnerverbund\|Clustern]] laufen zu können, deren [[Netzwerkelement\|Netzknoten]] aus handelsüblichen PCs bestehen. Dies bedeutet allerdings auch, dass man die hohe Ausfallrate und den damit verbundenen Datenverlust individueller Netzknoten als Normalzustand ansehen muss. Das äußert sich auch darin, dass kein Unterschied zwischen normaler (Herunterfahren) und abnormaler Beendigung (Absturz) gemacht wird: Serverprozesse werden standardmäßig per [[Kill (Unix)\|Killbefehl]] beendet. Andere Designentscheidungen setzen auf hohe Datendurchsatzraten, auch wenn dies auf Kosten der [[Verzögerungszeit\|Latenzzeit]] geht.

Rolf acker: /* Einzelnachweise */ WP-Wartung: cite-book-Vorlagenfehler beseitigt

2021-02-25T16:03:56Z

Einzelnachweise: WP-Wartung: cite-book-Vorlagenfehler beseitigt

← Nächstältere Version		Version vom 25. Februar 2021, 18:03 Uhr
Zeile 25:		Zeile 25:
	== Einzelnachweise ==		== Einzelnachweise ==
	<references responsive>		<references responsive>
	<ref name="google-fs-paper-2003">{{Cite book \| doi = 10.1145/945445.945450\| chapter = The Google file system\| title = Proceedings of the nineteenth ACM Symposium on Operating Systems Principles - SOSP '03\| pages = 29\| year = 2003~~\| last1 = Ghemawat~~ \| ~~first1~~ = S. ~~\| last2 = Gobioff \| first2 =~~ H. ~~\| last3 = Leung \| first3 =~~ S. T. \| citeseerx = 10.1.1.125.789\| isbn = ~~1581137575~~\| s2cid = ~~221261373~~\| url = http://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf}}</ref>		<ref name="google-fs-paper-2003">{{Cite book \|doi=10.1145/945445.945450 \|chapter=The Google file system \|title=Proceedings of the nineteenth ACM Symposium on Operating Systems Principles – SOSP '03 \|pages=29 \|year=2003 \|author=S. Ghemawat, H. Gobioff, S. T. Leung <!--\|citeseerx=10.1.1.125.789--> \|isbn=1581137575 <!--\|s2cid=221261373--> \|url=http://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf}}</ref>
	<ref name="google-fs-2-2009">{{Internetquelle \|titel=GFS: Evolution on Fast-forward \|url=https://queue.acm.org/detail.cfm?id=1594206 \|sprache=en \|abruf=2021-02-24}}</ref>		<ref name="google-fs-2-2009">{{Internetquelle \|titel=GFS: Evolution on Fast-forward \|url=https://queue.acm.org/detail.cfm?id=1594206 \|sprache=en \|abruf=2021-02-24}}</ref>
	</references>		</references>

Crazy1880: Klammer-fix

2021-02-25T06:16:00Z

Klammer-fix

← Nächstältere Version		Version vom 25. Februar 2021, 08:16 Uhr
Zeile 25:		Zeile 25:
	== Einzelnachweise ==		== Einzelnachweise ==
	<references responsive>		<references responsive>
	<ref name="google-fs-paper-2003">{{{Cite book \| doi = 10.1145/945445.945450\| chapter = The Google file system\| title = Proceedings of the nineteenth ACM Symposium on Operating Systems Principles - SOSP '03\| pages = 29\| year = 2003\| last1 = Ghemawat \| first1 = S. \| last2 = Gobioff \| first2 = H. \| last3 = Leung \| first3 = S. T. \| citeseerx = 10.1.1.125.789\| isbn = 1581137575\| s2cid = 221261373\| url = http://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf}}</ref>		<ref name="google-fs-paper-2003">{{Cite book \| doi = 10.1145/945445.945450\| chapter = The Google file system\| title = Proceedings of the nineteenth ACM Symposium on Operating Systems Principles - SOSP '03\| pages = 29\| year = 2003\| last1 = Ghemawat \| first1 = S. \| last2 = Gobioff \| first2 = H. \| last3 = Leung \| first3 = S. T. \| citeseerx = 10.1.1.125.789\| isbn = 1581137575\| s2cid = 221261373\| url = http://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf}}</ref>
	<ref name="google-fs-2-2009">{{Internetquelle \|titel=GFS: Evolution on Fast-forward \|url=https://queue.acm.org/detail.cfm?id=1594206 \|sprache=en \|abruf=2021-02-24}}</ref>		<ref name="google-fs-2-2009">{{Internetquelle \|titel=GFS: Evolution on Fast-forward \|url=https://queue.acm.org/detail.cfm?id=1594206 \|sprache=en \|abruf=2021-02-24}}</ref>
	</references>		</references>

Barbasca: Tippfehler korrigiert

2021-02-25T00:58:11Z

Tippfehler korrigiert

← Nächstältere Version		Version vom 25. Februar 2021, 02:58 Uhr
Zeile 1:		Zeile 1:
	Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres [[verteiltes Dateisystem]] für Linux-basierte Systeme, das Google intern entwickelte, um große Datenmengen vor allem aus dem Index der [[Google\|Google Suche]] und später auch aus [[Gmail]] zu speichern und zu verarbeiten.<ref name="google-fs-paper-2003"/><ref name="google-fs-2-2009"/> Das Google File System kennt zwei Arten von Komponenten: die Master- und die Chunkserver. Erstere halten lediglich Metainformationen über Dateien, während letztere die tatsächlichen Daten auf einem klassischen [[Linux]]-[[Dateisystem]] persistieren. Das Google File System unterteilt die Dateien dafür in [[Datenblock\|Chunks]], so dass eine Datei auf mehrere Server aufgeteilt werden kann. In der ersten Version war jeder Chunk 64 Megabyte groß, während die Größe später auf 1 MB aktualisiert wurde (Stand 2009).<ref name="google-fs-2-2009"/> Das Google File System arbeitet eine ~~Abstaktionsebene~~ höher, als typische Dateisysteme und kümmert sich lediglich um die Verteilung, unter Gewährleistung von [[Verfügbarkeit]] und [[Konsistenz_(Datenspeicherung)\|Konsistenz]] der Daten.<ref name="google-fs-paper-2003"/> Es ist für einen hohen Datendurchsatz optimiert und kann hunderte von Terabytes verteilt auf tausende Festplatten auf tausenden Maschinen verwalten.<ref name="google-fs-2-2009"/>		Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres [[verteiltes Dateisystem]] für Linux-basierte Systeme, das Google intern entwickelte, um große Datenmengen vor allem aus dem Index der [[Google\|Google-Suche]] und später auch aus [[Gmail]] zu speichern und zu verarbeiten.<ref name="google-fs-paper-2003"/><ref name="google-fs-2-2009"/> Das Google File System kennt zwei Arten von Komponenten: die Master- und die Chunkserver. Erstere halten lediglich Metainformationen über Dateien, während letztere die tatsächlichen Daten auf einem klassischen [[Linux]]-[[Dateisystem]] persistieren. Das Google File System unterteilt die Dateien dafür in [[Datenblock\|Chunks]], so dass eine Datei auf mehrere Server aufgeteilt werden kann. In der ersten Version war jeder Chunk 64 Megabyte groß, während die Größe später auf 1 MB aktualisiert wurde (Stand 2009).<ref name="google-fs-2-2009"/> Das Google File System arbeitet eine Abstraktionsebene höher, als typische Dateisysteme und kümmert sich lediglich um die Verteilung, unter Gewährleistung von [[Verfügbarkeit]] und [[Konsistenz_(Datenspeicherung)\|Konsistenz]] der Daten.<ref name="google-fs-paper-2003"/> Es ist für einen hohen Datendurchsatz optimiert und kann hunderte von Terabytes verteilt auf tausende Festplatten auf tausenden Maschinen verwalten.<ref name="google-fs-2-2009"/>

	== Aufbau ==		== Aufbau ==

Phip1611: Einleitung entsprechend der Paper etwas verfeinert

2021-02-24T17:49:08Z

Einleitung entsprechend der Paper etwas verfeinert

← Nächstältere Version		Version vom 24. Februar 2021, 19:49 Uhr
Zeile 1:		Zeile 1:
			Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres [[verteiltes Dateisystem]] für Linux-basierte Systeme, das Google intern entwickelte, um große Datenmengen vor allem aus dem Index der [[Google\|Google Suche]] und später auch aus [[Gmail]] zu speichern und zu verarbeiten.<ref name="google-fs-paper-2003"/><ref name="google-fs-2-2009"/> Das Google File System kennt zwei Arten von Komponenten: die Master- und die Chunkserver. Erstere halten lediglich Metainformationen über Dateien, während letztere die tatsächlichen Daten auf einem klassischen [[Linux]]-[[Dateisystem]] persistieren. Das Google File System unterteilt die Dateien dafür in [[Datenblock\|Chunks]], so dass eine Datei auf mehrere Server aufgeteilt werden kann. In der ersten Version war jeder Chunk 64 Megabyte groß, während die Größe später auf 1 MB aktualisiert wurde (Stand 2009).<ref name="google-fs-2-2009"/> Das Google File System arbeitet eine Abstaktionsebene höher, als typische Dateisysteme und kümmert sich lediglich um die Verteilung, unter Gewährleistung von [[Verfügbarkeit]] und [[Konsistenz_(Datenspeicherung)\|Konsistenz]] der Daten.<ref name="google-fs-paper-2003"/> Es ist für einen hohen Datendurchsatz optimiert und kann hunderte von Terabytes verteilt auf tausende Festplatten auf tausenden Maschinen verwalten.<ref name="google-fs-2-2009"/>
	Das '''Google File System''' ('''GFS''' oder '''GoogleFS''') ist ein proprietäres, auf [[Linux]] basierendes [[verteiltes Dateisystem]], das [[Google LLC]] für seine Anwendungen benutzt. Es ist für [[Google]]s Websuche optimiert. Die Daten sind in teilweise mehrere [[Gigabyte (Einheit)\|Gigabyte]] großen Dateien gespeichert, die selten gelöscht, überschrieben oder verkleinert werden. Auch ist es für hohe [[Datendurchsatz\|Datendurchsätze]] optimiert.

	== Aufbau ==		== Aufbau ==
Zeile 22:		Zeile 22:
	== Siehe auch ==		== Siehe auch ==
	* [[Amazon Dynamo]]		* [[Amazon Dynamo]]

			== Einzelnachweise ==
			<references responsive>
			<ref name="google-fs-paper-2003">{{{Cite book \| doi = 10.1145/945445.945450\| chapter = The Google file system\| title = Proceedings of the nineteenth ACM Symposium on Operating Systems Principles - SOSP '03\| pages = 29\| year = 2003\| last1 = Ghemawat \| first1 = S. \| last2 = Gobioff \| first2 = H. \| last3 = Leung \| first3 = S. T. \| citeseerx = 10.1.1.125.789\| isbn = 1581137575\| s2cid = 221261373\| url = http://static.googleusercontent.com/media/research.google.com/en//archive/gfs-sosp2003.pdf}}</ref>
			<ref name="google-fs-2-2009">{{Internetquelle \|titel=GFS: Evolution on Fast-forward \|url=https://queue.acm.org/detail.cfm?id=1594206 \|sprache=en \|abruf=2021-02-24}}</ref>
			</references>

	== Weblinks ==		== Weblinks ==