Dieser Artikel untersucht die Entwicklung der GPT-Modelle von OpenAI und konzentriert sich auf GPT-2 und GPT-3. Diese Modelle stellen eine signifikante Verschiebung des Ansatzes zum LLM-Training (Language Model) dar und bewegt sich vom traditionellen Paradigma "Pre-Training plus Feinabstimmung" in Richtung eines "Nur Pre-Training" -Ansatzes.

Diese Verschiebung wurde durch Beobachtungen der Null-Shot-F?higkeiten von GPT-1 angetrieben-deren F?higkeit, Aufgaben auszuführen, für die sie nicht speziell ausgebildet worden war. Um dies besser zu verstehen, lassen Sie uns mit den Schlüsselkonzepten eingehen:

Teil 1: Die Paradigmenverschiebung und seine Enabler

Die Einschr?nkungen der Feinabstimmung, insbesondere für die Vielzahl unsichtbarer NLP-Aufgaben, motivierten den Schritt in Richtung von Aufgaben-agnostischem Lernen. Die Feinabstimmung gro?er Modelle für kleine Datens?tze besteht Risiken über eine überanpassung und eine schlechte Verallgemeinerung. Die menschliche F?higkeit, Sprachaufgaben ohne massive beaufsichtigte Datens?tze zu lernen, unterstützt diese Verschiebung weiter.

Drei Schlüsselelemente erleichterten diese Paradigmenverschiebung:

• Task-agnostisches Lernen (Meta-Learning): Dieser Ansatz ausst?bt das Modell mit einem breiten Fertigkeit w?hrend des Trainings aus und erm?glicht es ihm, sich schnell an neue Aufgaben anzupassen, ohne weitere Feinabstimmung zu erhalten. Modell-agnostisches Meta-Learning (MAML) veranschaulicht dieses Konzept.

• Die Skalenhypothese: Diese Hypothese setzt voraus, dass gr??ere Modelle, die auf gr??eren Datens?tzen trainiert wurden, aufkommende Funktionen aufweisen - F?higkeiten, die unerwartet mit der Modellgr??e und der Datenerh?hung erscheinen. GPT-2 und GPT-3 dienten als Experimente, um dies zu testen.

• In-Context-Lernen: Diese Technik beinhaltet die Bereitstellung des Modells mit einem natürlichen Sprachanweis und einigen Beispielen (Demonstrationen) zum Inferenzzeit, sodass es die Aufgabe aus diesen Beispielen ohne Gradienten-Updates erlernen kann. Null-Shot-, One-Shot- und Wenig-Shot-Lernen repr?sentieren unterschiedliche Beispielniveaus.

Teil 2: GPT-2-Ein Sprungbrett

GPT-2 basiert auf der Architektur von GPT-1 mit mehreren Verbesserungen: modifizierter Layernorm-Platzierung, Gewichtskalierung für Restschichten, erweitertes Wortschatz (50257), erh?hte Kontextgr??e (1024 Token) und gr??ere Chargengr??e (512). Vier Modelle wurden mit Parameterzahlen im Bereich von 117 m und 1,5B trainiert. Der Trainingsdatensatz WebText umfasste ungef?hr 45 m Links. W?hrend GPT-2 vielversprechende Ergebnisse zeigte, insbesondere bei der Sprachmodellierung, blieb es hinter hochmodernen Modellen für Aufgaben wie Leseverst?ndnis und übersetzung zurück.

Teil 3: GPT-3-Ein Sprung nach vorne

gpt-3 behielt eine ?hnliche Architektur wie GPT-2 bei, was sich haupts?chlich in der Verwendung von abwechselnden dichten und sp?rlichen Aufmerksamkeitsmustern unterscheidet. Acht Modelle wurden von 125 m bis 175B Parametern trainiert. Die Trainingsdaten waren signifikant gr??er und vielf?ltiger, mit sorgf?ltiger Kuration und Gewichtung von Datens?tzen basierend auf Qualit?t.

Schlüsselergebnisse aus der Bewertung von GPT-3 zeigen die Wirksamkeit der Skalenhypothese und des In-Kontext-Lernens. Die Leistung skalierte reibungslos mit erh?hter Berechnung, und gr??ere Modelle zeigten eine überlegene Leistung bei Null-Shot-, One-Shot- und wenigen Lerneinstellungen.

Teil 4: Schlussfolgerung

GPT-2 und GPT-3 stellen signifikante Fortschritte bei der LLM-Entwicklung dar und ebnen den Weg für die zukünftige Forschung zu aufstrebenden Funktionen, Schulungsparadigmen, Datenreinigung und ethischen überlegungen. Ihr Erfolg unterstreicht das Potenzial des aufgabenagnostischen Lernens und die Kraft, sowohl die Modellgr??e als auch die Trainingsdaten zu skalieren. Diese Forschung beeinflusst weiterhin die Entwicklung nachfolgender Modelle wie GPT-3.5 und InstructGpt.

Teil 1: Verst?ndnis der Entwicklung von ChatGPT: Teil 1-Ein ausführlicher Blick auf GPT-1 und was es inspiriert hat.
Teil 3: Erkenntnisse aus Codex und InstructGpt

Das obige ist der detaillierte Inhalt vonVerst?ndnis der Entwicklung von ChatGPT: Teil 2 – GPT-2 und GPT-3. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!