LIMO: Weniger ist mehr beim Schlussfolgern (Less is More for Reasoning)

• Forschungsüberblick

  • Das LIMO-Modell präsentiert Erkenntnisse, die zu einem neuen Verständnis führen, wie komplexe Schlussfolgerungsfähigkeiten in großen Sprachmodellen entstehen.
  • Entgegen bisheriger Annahmen kann komplexes mathematisches Schlussfolgern auch mit einer kleinen Zahl von Beispielen effektiv hervorgerufen werden.
  • LIMO erreicht mit nur 817 Trainingsbeispielen eine Genauigkeit von 57,1 % bei AIME und 94,8 % bei MATH.
  • Das ist eine deutliche Verbesserung gegenüber 6,5 % und 59,2 % bei früheren SFT-basierten Modellen, wobei nur 1 % der Trainingsdaten früherer Ansätze verwendet wurden.

• Leistung von LIMO

  • LIMO zeigt über 10 verschiedene Benchmarks hinweg eine absolute Leistungssteigerung von 40,5 % und übertrifft Modelle, die mit 100-mal mehr Daten trainiert wurden.
  • Dies stellt die bisherige Auffassung infrage, dass SFT eher zu Generalisierung als zu Auswendiglernen führt.

• LIMO-Hypothese

  • Die LIMO-Hypothese schlägt vor, dass komplexe Schlussfolgerungsfähigkeiten bereits mit minimalen Demonstrationen entstehen können, wenn das Domänenwissen im Basismodell während des Pretrainings vollständig kodiert wurde.
  • Der Schwellenwert zur Auslösung komplexen Schlussfolgerns wird durch zwei Hauptfaktoren bestimmt:
    1. die Vollständigkeit der während des Pretrainings kodierten Wissensbasis des Modells.
    2. die Wirksamkeit von Post-Training-Beispielen als „kognitive Templates“, die zeigen, wie das Modell seine Wissensbasis zur Lösung komplexer Schlussfolgerungsaufgaben nutzt.

• Als Open Source verfügbar

  • Um Reproduzierbarkeit und künftige Forschung zu dateneffizientem Schlussfolgern zu fördern, wird LIMO als umfassende Open-Source-Suite bereitgestellt.