1 Punkte von GN⁺ 2023-12-11 | 1 Kommentare | Auf WhatsApp teilen
  • Das in Paris ansässige Mistral AI hat eine Finanzierung über 450 Mio. € gesichert und seine Unternehmensbewertung damit auf rund 2 Milliarden US-Dollar ($2b) gesteigert – ein Zeichen für die wachsende Präsenz europäischer AI-Startups
  • Andreessen Horowitz führte die Runde an; Nvidia Corp und Salesforce investierten zusätzlich 120 Mio. € über Wandelanleihen
  • Das Vorzeigemodell Mistral 7B ist ein Open-Source-Large-Language-Model unter der Apache-2.0-Lizenz und setzt auf maßgeschneidertes Training, Tuning und Datenverarbeitung
  • Es ist darauf ausgelegt, mit weniger Parametern Wissenskompression und tiefes Schlussfolgern zu unterstützen; im Zentrum steht ein Optimierungsansatz, der Trainingszeit, Kosten und Umweltauswirkungen reduziert
  • Open Source und eine effiziente Modellstrategie heben Mistral AI von etablierten Akteuren wie OpenAI, Google AI und DeepMind ab und zeigen den Trend zu steigenden AI-Investitionen in Europa

Finanzierung von Mistral AI und steigende Unternehmensbewertung

  • Das in Paris ansässige Mistral AI hat eine Finanzierung in Höhe von 450 Mio. € eingeworben und damit eine Unternehmensbewertung von 2 Milliarden US-Dollar erreicht
  • Diese Runde ist nicht nur für Mistral AI, sondern auch für das europäische AI-Ökosystem ein wichtiges Ereignis und zeigt, dass Europas Gewicht im globalen AI-Wettbewerb wächst
  • Andreessen Horowitz führte die Runde an; Nvidia Corp und Salesforce beteiligten sich zusätzlich mit 120 Mio. € in Form von Wandelanleihen
  • Die Zusammensetzung der Investoren umfasst sowohl klassische Venture-Capital-Geber als auch große Technologieunternehmen und spiegelt das Interesse an der Technologie und Vision von Mistral AI wider
  • Die eingeworbenen Mittel schaffen eine finanzielle Grundlage, um Forschung und Entwicklung voranzutreiben, die Reichweite zu erhöhen und die Position im AI-Bereich zu stärken

Technische Merkmale von Mistral 7B

  • Das Vorzeigeprodukt von Mistral AI ist ein Large Language Model namens Mistral 7B
  • Dieses Modell ist ein unter der Apache-2.0-Lizenz veröffentlichtes Open-Source-Modell und zeichnet sich durch Effizienz sowie fortgeschrittene Funktionen aus
  • Es wird als Beispiel für Fortschritte in der AI-Technologie vorgestellt, ermöglicht durch maßgeschneidertes Training, Tuning und Datenverarbeitung
  • Sein Unterscheidungsmerkmal liegt darin, dass es auch mit weniger Parametern als andere Modelle am Markt Wissenskompression und ausgeprägte Fähigkeiten zum tiefen Schlussfolgern unterstützt
  • Der optimierte Ansatz trägt dazu bei, die Leistung zu steigern und zugleich Trainingszeit, Kosten und Umweltauswirkungen zu reduzieren

Marktposition und mögliche Anwendungsbereiche

  • Die Bereitstellung von Mistral 7B positioniert Mistral AI als wichtigen Akteur im AI-Markt und als Konkurrenten von OpenAI
  • Die Wirkung kann sich auf mehrere Branchen ausweiten; Gesundheitswesen, Bildung, Finanzwesen und Fertigung werden als Beispiele genannt
  • Die Fähigkeit, leistungsstarke und skalierbare Lösungen bereitzustellen, kann beeinflussen, wie einzelne Branchen AI für Innovation und Effizienz nutzen

Veränderungen im europäischen AI-Ökosystem

  • Diese Finanzierungsrunde ist ein Signal dafür, dass Europas Stellung in der globalen AI-Landschaft schnell wächst
  • Europäische AI-Unternehmen lagen historisch bei Investitionen und Innovation hinter Wettbewerbern aus den USA und Asien zurück
  • Der Erfolg von Mistral AI und andere große Finanzierungsrunden zeigen, dass Europas Potenzial und Wille zur AI-Innovation zunehmen

Differenzierung im Wettbewerb um generative AI

  • Mistral AI differenziert sich im Wettbewerb um generative AI durch einen Open-Source-Ansatz und den Fokus auf die Entwicklung skalierbarer, effizienter Modelle
  • Diese Strategie unterscheidet Mistral AI von etablierten Akteuren wie OpenAI, Google AI und DeepMind
  • Durch die Priorisierung von Zugänglichkeit und Effizienz trägt das Unternehmen zur Demokratisierung von AI-Technologie bei und stärkt seine Position als ernstzunehmender Wettbewerber im globalen AI-Wettlauf
  • Mit dem Zufluss großer Investitionen in europäische AI-Startups schafft sich Europa in einem hart umkämpften und sich schnell wandelnden AI-Sektor zunehmend einen eigenen Raum

1 Kommentare

 
GN⁺ 2023-12-11
Hacker-News-Kommentare
  • Es gibt viel Hype rund um LLMs, aber Mistral scheint die Erwartungen wert zu sein
    Ich nutze immer noch das ursprüngliche 7B-Modell und seine Ableger und bin gespannt, was als Nächstes kommt. Das gerade veröffentlichte MoE-Modell-Set ist kostenlos, aber ich vermute, das nächste Produkt wird kommerziell sein
    Ein weiteres vielversprechendes Unternehmen ist 01.AI, das das Yi-34B-Modell veröffentlicht hat. Ich habe es lokal auf meinem Mac mit ollama run yi:34b ausprobiert, und es war erstaunlich gut

    • Wie schlagen sich diese kleinen Modelle bei Coding oder technischen Fragen im Vergleich zu GPT-4?
      GPT-3.5 war für mich praktisch nutzlos, weil die Antworten entweder falsch oder zu allgemein waren. GPT-4 liefert dagegen in etwa 80 % der Fälle brauchbare Antworten
    • Ich frage mich, wie Leute solche Modelle verwenden
      Ich nutze GPT-4 eher als Ersatz für die Suche und habe bislang keinen Grund gefunden, zu etwas anderem zu wechseln. Zum Beispiel nutze ich es, um etwas über die Geschichte, Architektur und den kulturellen Kontext von Reisezielen herauszufinden, und dafür war es ziemlich praktisch
    • Kannst du teilen, was an Yi-34B so erstaunlich ist? Ich hatte noch keine Gelegenheit, es auszuprobieren
    • Stimme zu. Yi 34B und Mistral 7B sind großartig
      Man sollte allerdings die besseren feinabgestimmten Yi-Modelle statt des Basis-Chatmodells nutzen. Das ist deutlich besser. Wenn du Yi mit langem Kontext brauchst, empfehle ich Xaboros/Cybertron oder eines meiner verschiedenen Modell-Merges auf Hugging Face
    • Du sagtest, du nutzt immer noch das ursprüngliche 7B-Modell und seine Ableger — wie ist es im Vergleich zu anderen Modellen? Mich würde vor allem der Vergleich mit ChatGPT interessieren
  • Mistral AI bekam von Anfang an viel Medienaufmerksamkeit, weil das Unternehmen zugunsten kurzfristiger Einnahmen darauf verzichtete und stattdessen Mistral-7B veröffentlichte
    Aus Sicht des gesamten AI-Ökosystems ist es besser, wenn Startups ihr Geschäft auf guter offener Software aufbauen, statt Burggräben und abgeschottete Ökosysteme zu schaffen

    • Ich finde, das ist schwer als Open Source zu bezeichnen. Sie haben keine Details zum Training veröffentlicht, deshalb ist es faktisch nicht reproduzierbar
      Es ist eher so, als würde ein SaaS-Unternehmen die kompilierten Binärdateien veröffentlichen, die normalerweise auf dem Server laufen. Das ist besser als nichts, trifft aber nicht exakt den Geist von Open Source
      Diese Unterscheidung wirkt für mich nicht wie bloße Wortklauberei, aber ob die Community am Ende zustimmt, ist eine andere Frage
    • Ein weiterer Grund ist, dass das Modell weniger Einschränkungen oder Zensur hat. Ihren Aussagen nach sind sie diesem Ansatz verpflichtet und haben darauf aufgebaut, damit andere darauf aufbauen können
      GPT-artige Produkte sind noch kein abgeschlossenes Geschäft, und ich hoffe, dass die Open-Source-Community über den frühen Erfolg hinauswachsen kann
  • Ist es nicht eine fragwürdige Art der Bewertung, wenn Nvidia Firmen Geld gibt, damit sie es anschließend wieder für Nvidia-Hardware mit hoher Marge ausgeben?

    • Ähnlich wie MS OpenAI all diese Azure-Guthaben gegeben hat
    • Ich verstehe nicht, warum das eine fragwürdige Bewertungsmethode sein soll
      Wenn ein Investor nur auf den Umsatz oder nur auf einen Teilbereich der Finanzen schaut, vielleicht. Aber sonst dürften die abgeflossenen Mittel und die gestiegenen Umsätze zusammen berücksichtigt werden, sodass der Gewinn nicht verzerrt wird
    • Ein Investmentmodell nach dem Motto: Kopf, ich gewinne; Zahl, du verlierst
    • Das ist viel üblicher, als die Leute denken
  • Als Europäer war mein erster Gedanke: „Super! Ein EU-Startup, auf zum Mond“, und mein zweiter: „Ach, US-VCs“
    Scheint hier wohl das Beste zu sein, was geht

    • Das Problem ist, dass europäische VCs einfach nicht so viel Kapital haben
      Europäische VCs verwalten meist Vermögen im Bereich von einigen hundert Millionen Dollar, Silicon-Valley-VCs dagegen oft mehrere Milliarden Dollar
    • Man kann den Eindruck haben, dass es nur wenige EU-Startups gibt, und das stimmt auch
      Aber EU-VCs gibt es noch weniger
    • Sehr frühe Runden wurden auch von europäischen VCs mitfinanziert, insbesondere von französischen VCs
      Die Gründer sind ebenfalls Franzosen. Für mich ist das europäisch genug, da muss man nicht übermäßig pedantisch sein
  • Man merkt daran, wie bedeutungslos Unternehmensbewertungen inzwischen geworden sind
    Sie werden als Erfolgsmaßstab genutzt, aber solange es jemandes Zweck dient, findet sich immer jemand, der bei einer höheren Bewertung einen Scheck ausstellt. Etwa wegen Bewertungsgewinnen auf dem Papier, als Statussignal oder um sich im Investitionswettbewerb einen Deal vor rationaleren Konkurrenten zu sichern
    Das heißt nicht, dass Mistral wertlos ist oder keine guten Dinge tut. Aber die Kennzahl Bewertung selbst ist bedeutungslos geworden, und ein großer Teil der Kapitalbeschaffung im AI-Bereich wirkt wie ein Ausgleich für Cloud- und GPU-Ausgaben. Dafür kann man mich gern kritisieren, aber Meldungen über Bewertungen fühlen sich für mich nicht mehr wie echte Nachrichten an

    • Es ist nur Rauch. Aber wo Rauch ist, ist meist auch ein bisschen Feuer
  • Mistral hat großes Potenzial, aber ohne eine passende Monetarisierungsstrategie besteht eindeutig das Risiko, langfristig keine nachhaltige Profitabilität zu erreichen

    • Frankreich will unbedingt Unabhängigkeit, und die französische Regierung wird ihnen sofort große Aufträge geben, sobald ein halbwegs vertretbares Produkt da ist
    • Das habe ich mich auch gefragt. Was genau ist eigentlich das Geschäftsmodell? Es wirkt fast so, als wolle Europa sagen: „Wir spielen noch mit“
    • Sobald sie anfangen, ein Produkt zu betreiben, für das Nutzer bezahlen, entsteht auch die Sorge, dass sie für fragwürdige Dinge verantwortlich gemacht werden könnten, die mit ihrem Produkt geschehen
      Wenn man dagegen einfach Torrent-Links zu Modellgewichten auf Twitter postet, ist diese Verantwortung deutlich geringer
    • Im Pitch Deck stand, dass sie ihre Modelle als Service anbieten und so Geld verdienen wollen
      Der Burggraben mag gering wirken, weil jeder mit demselben Modell eine Cloud-Instanz hochziehen kann, aber als Ausgangspunkt ist das trotzdem vernünftig. Wahrscheinlich werden sie auch viele EU-Kunden gewinnen, die US-Anbieter nicht nutzen können oder wollen
    • Es gibt keinen Grund, warum sie keine Chat-App veröffentlichen könnten
  • Ich hoffe wirklich, dass europäische Startups erfolgreich mit den großen Konzernen konkurrieren können
    Ich möchte nicht, dass Datenschutzverletzungen wie bei OpenAI, das Nutzer-Prompts standardmäßig fürs Training verwendet, zur Norm werden

  • Die alten Meister sagten schon: Verlieb dich nicht in dein eigenes Werk
    Die AI-Industrie tappt in die Marketingfalle, die sie selbst gebaut hat. LLMs sind nette Spielzeuge, aber ihre Umsetzung ist ressourcen- und energieintensiv und intransparent
    Viele reale Probleme lassen sich mit vernünftigen Ansätzen lösen. Für einen durstigen Menschen ist Wasser das Wichtigste, nicht die Art des Glases

    • Wenn man die Effizienz von Dampfmaschinen aus der Zeit der industriellen Revolution mit heutigen vergleicht, oder Methoden der Stromerzeugung von vor 100 Jahren mit heutigen, oder die Frühphase fast aller chemischen Prozesse, Fertigungsverfahren und landwirtschaftlichen Techniken mit ihrem heutigen Stand, dann ist der Unterschied erstaunlich
      In manchen Fällen waren die heutigen Tätigkeiten vor 100 Jahren um mehrere Größenordnungen verschwenderischer
      Es reicht schon, sich anzusehen, wie sich Größe, Energieverbrauch und Geschwindigkeit von Computerhardware in den letzten 70 Jahren verändert haben. Dass die heutige Umsetzung „ressourcen- und energieintensiv und intransparent“ ist, ist bei vielen mächtigen Erfindungen in der Frühphase normal
      Es stimmt zwar, dass für einen durstigen Menschen Wasser am wichtigsten ist, aber hier ist die Lage eher so, als würde eine Gruppe ein revolutionäres Nanotechnologie-Glas verkaufen, das Wasser auf unbestimmte Zeit auf der gewünschten Temperatur hält und es ständig aus der Luftfeuchtigkeit nachfüllt. Manchmal ist die Art des Glases tatsächlich sehr wichtig, und deshalb ist es nicht überraschend, dass mehrere Gruppen versuchen, so etwas zu bauen
  • Was ist das Geschäftsmodell?

    • Unter dem Schlagwort Souveränität dafür sorgen, dass die französische Regierung riesige Summen hineinsteckt
  • Wer es schafft, dass „normale“ Mac-Nutzer lokale LLMs installieren und ausführen können, wird enorm profitieren
    Zum Beispiel sollte man einfach ein DMG herunterladen, anklicken, installieren und starten können. Keine Kommandozeile
    Es ergibt keinen Sinn, dass es 100 Millionen Computer gibt, die LLMs ordentlich ausführen könnten, aber nur ein winziger Teil sie tatsächlich nutzt
    Darüber hinaus könnte man die Rechenleistung gegenseitig per P2P ausleihen. Man könnte personalisierte LLMs bauen. Ich finde diese Richtung persönlich wirklich spannend, aber es sieht so aus, als würde es niemand machen