Zum Inhalt springen
AI.info

The Pulse

AWS berichtet über Ergebnisse zum vollständigen Fine-Tuning für SageMaker serverless

AWS meldet in einem Experiment zur Codegenerierung einen Wert von 90,0 % semantischer Korrektheit beim vollständigen Fine-Tuning, als die Trainingsdaten auf mehr als 100.000 Beispiele anwuchsen. SageMaker AI unterstützt die Technik seit August für mehr als 25 Open-Source-Modelle.

AWS berichtet über Ergebnisse zum vollständigen Fine-Tuning für SageMaker serverless

Beim vollständigen Fine-Tuning wurde bei Aufgaben zur Codegenerierung ein Wert von 90,0 % semantischer Korrektheit erreicht, als die Trainingsdaten auf mehr als 100.000 Beispiele anwuchsen. Das geht aus einem Experiment von Amazon Web Services hervor, bei dem die serverlose Modellanpassung mit SageMaker AI zum Einsatz kam. Das Unternehmen veröffentlichte das Ergebnis am 18. November zusammen mit einem Vergleich zu einer Methode, die weniger Modellparameter aktualisiert.

Die Funktion wurde erstmals am 3. August angekündigt und nicht erst im neuen Experiment eingeführt. Damals erklärte AWS, dass das serverlose vollständige Fine-Tuning mehr als 25 Open-Source-Modelle unterstütze, darunter Modelle aus den Familien gpt-oss, Gemma, Llama, Nemotron und Qwen.

Zwei Wege, ein Modell anzupassen

Beim vollständigen Fine-Tuning werden alle Modellparameter aktualisiert. Bei der Low-Rank Adaptation oder LoRA bleiben die vortrainierten Gewichte hingegen unverändert, während den Modellschichten kleinere Matrizen hinzugefügt werden. Beide Methoden lassen sich verwenden, um ein vortrainiertes Modell mit den Daten eines Unternehmens anzupassen.

Bei der serverlosen Anpassung geben Nutzer das Basismodell, die Datensätze und die Hyperparameter an. Der Dienst übernimmt die Zuweisung der Rechenressourcen und die Verwaltung der Checkpoints. In der Ankündigung vom August hieß es, Kunden zahlten nur für das, was sie nutzen.

Das Coding-Experiment

Der Beitrag vom November beschreibt Experimente zum überwachten Fine-Tuning des Basismodells Qwen3-4B mit vollständigem Fine-Tuning und LoRA. Bei jedem Experiment kamen für beide Trainingsmethoden dieselben Prompts, Zielausgaben und Evaluierungscodes zum Einsatz.

Für die Experimente wurde Magicoder-Evol-Instruct-110K verwendet, ein Datensatz mit 110.000 Anweisungs-Antwort-Paaren für Programmieraufgaben zu den Themen Algorithmusdesign, Debugging, Datenstrukturen und Systemprogrammierung. AWS teilte diesen Datensatz in 99.000 Trainingseinträge, 5.500 Validierungseinträge und einen zurückgehaltenen Testsatz mit 5.500 Einträgen auf.

Bei der Evaluierung der semantischen Korrektheit kam Amazon Nova Pro als automatisierter Beurteiler zum Einsatz: Das Modell untersuchte den generierten Code zusammen mit dem ursprünglichen Prompt und bewertete, ob die Lösung logisch korrekt war. Das gemeldete Ergebnis von 90,0 % bezieht sich auf diesen vom Modell beurteilten Messwert bei Aufgaben zur Codegenerierung und nicht auf einen allgemeinen Genauigkeitswert für alle Anwendungsbereiche.

Weitere Prüfungen und Einrichtung der Jobs

Das Team bewertete den generierten Code außerdem mit PRIMECODE, einem eigenen Scoring-Tool, das die Ausgabe mithilfe von Textähnlichkeitsmaßen wie BLEU, ROUGE und F1 mit Referenzlösungen vergleicht. Mit dem MMLU-Benchmark, der 57 akademische Fachgebiete abdeckt, prüfte es, ob das allgemeine Wissen vor und nach dem domänenspezifischen Fine-Tuning erhalten blieb.

AWS zufolge schnitt das vollständige Fine-Tuning in jeder Dimension des Radar-Diagramm-Vergleichs besser ab als LoRA. An anderer Stelle im Beitrag heißt es, das vollständige Fine-Tuning „ist LoRA nicht durchweg überlegen“; bei einem Ergebnis lag LoRA beim vom Modell beurteilten Messwert mit 81,5 % zu 79,5 % leicht vorn. Der Beitrag beschreibt Dutzende Anpassungsexperimente mit mehreren unterstützten Basismodellen, bei denen Einstellungen wie Lernrate, Batchgröße, Warmup-Verhältnis, Anzahl der Epochen und Umfang des Datensatzes variiert wurden.

Jedes Experiment dauerte vom Einreichen eines Jobs bis zum Erhalt der Evaluierungsergebnisse einige Stunden, so das Unternehmen. Die resultierenden Modelle wurden als versionierte Pakete in der SageMaker Model Registry registriert, damit sie überprüft oder bereitgestellt werden konnten.

Den Dienst nutzen

Ein Beispiel für einen SageMaker-Python-SDK-Job im Beitrag wählt das vollständige Training aus, übergibt Trainings- und Validierungsdatensätze, legt Hyperparameter fest und startet den Job. Um das Beispiel auf LoRA umzustellen, muss der Trainingstyp geändert werden; der übrige gezeigte Code bleibt gleich.

Zum Zeitpunkt der Ankündigung im August war das serverlose vollständige Fine-Tuning in den Regionen US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) und Europe (Ireland) verfügbar. Kunden können einen Anpassungsjob über die Seite JumpStart and Models in SageMaker Studio starten oder das Python-SDK verwenden.

Quellen

  1. Originalquelle · Blogbeitrag Amazon Web Services · Full fine tuning fft on sagemaker AI serverless model custo… aws.amazon.com

Weitere gelesene Seiten

  1. Amazon Web Services · Amazon sagemaker fft aws.amazon.com

Unternehmen in dieser Meldung

Verwandte Meldungen

Entdecken

Weitere Artikel