2 Punkte von GN⁺ 2025-05-07 | 1 Kommentare | Auf WhatsApp teilen
  • Clippy ist eine Desktop-App, mit der man lokale LLMs auf dem eigenen Computer ausführen und über eine UI chatten kann, die an Microsoft Clippy aus den 1990ern erinnert
  • Nutzt llama.cpp und node-llama-cpp, um automatisch verfügbare Ausführungswege wie Metal, CUDA, Vulkan zu finden
  • Der Grundablauf ist ein einfacher Chat, aber man kann selbst heruntergeladene Custom Models sowie Prompts und Parameter laden und anpassen
  • Die Verarbeitung findet vollständig auf dem Computer des Nutzers statt; Netzwerkanfragen gibt es nur für Update-Prüfungen, und auch diese Funktion lässt sich deaktivieren
  • Es besteht keine Partnerschaft, Freigabe oder Unterstützung durch Microsoft; eher ein Experiment, das 90er-Jahre-Nostalgie und lokale AI im Jahr 2025 verbindet, als der beste Chatbot sein zu wollen

Lokale LLMs im Stil von Clippy aus den 1990ern

  • Clippy ist eine Desktop-App zum Ausführen mehrerer LLMs auf dem lokalen Computer
  • Die UI ist als Hommage an Microsoft Clippy und das visuelle Design von Windows 98 gestaltet
  • Der grundlegende Nutzungsablauf ist einfach
    • Man sendet eine Nachricht an das Modell
    • Man erhält die Antwort des Modells
  • Die App setzt darauf, dass man sie nach der Installation ohne komplizierte Einrichtung öffnen und sofort chatten kann

Modellausführung und Konfiguration

  • Nutzt llama.cpp und node-llama-cpp, um die Art der Modellausführung automatisch zu erkennen
    • Als Beispiele werden Metal, CUDA, Vulkan genannt
  • Selbst heruntergeladene Modelle lassen sich laden
  • Über Prompts und Parameter lässt sich das Verhalten des Modells verändern
  • Die gesamte Ausführung erfolgt auf dem Computer des Nutzers
    • Netzwerkanfragen dienen nur der Update-Prüfung
    • Die Update-Prüfung kann deaktiviert werden

Projektcharakter und Distribution

  • Ziel ist nicht der beste Chatbot, sondern die Verbindung von Technik-Nostalgie der 1990er mit Technologie, die 2025 auf dem eigenen Computer ausgeführt werden kann
  • Die App steht in keiner Partnerschafts-, Freigabe- oder Support-Beziehung zu Microsoft
  • Der Quellcode ist auf GitHub verfügbar
  • Downloads werden mit Stand v0.4.3 angeboten

1 Kommentare

 
GN⁺ 2025-05-07
Hacker-News-Meinungen
  • Gute Idee. Die unnötig aufgekratzte und geschwätzige Standardpersönlichkeit von Chat-Agenten nervt so sehr, dass ich sie scherzhaft schon Clippy der nächsten Generation genannt habe.
    Es ist ziemlich überraschend, dass Microsoft das nicht schon als alternative Version der CoPilot UI gebaut hat. Die Art, wie sie es einem ins OS, in Apps und sogar in Laptop-Tastaturen hineindrücken, ist viel zu intrusive; wenn sie einfach zugeben würden, was sie da tun, und es mit einem Augenzwinkern annehmen würden, fände ich es wohl weniger unsympathisch. Einen „Clippy is my CoPilot“-Sticker könnte man sich vielleicht sogar auf den Laptop kleben.

    • Absolut. Man bekommt den Eindruck, dass es bei Microsoft niemanden mit Entscheidungsbefugnis für so etwas gibt, der Sinn für Humor oder Geschäftssinn hat.
      Der Nostalgieeffekt wäre enorm gewesen; ich nutze inzwischen zwar Linux, aber wenn Fedora unterstützt würde, hätte ich Clippy wohl installiert.
    • Ich glaube, das haben sie tatsächlich gemacht. Ich erinnere mich, bei einer Präsentation gesehen zu haben, dass man Clippy als Avatar auswählen konnte.
      Edit: Gefunden.
      https://windowsreport.com/with-copilot-avatar-microsoft-will...
    • In großen Unternehmen wie Microsoft gibt es so viel Bürokratie und so viele bewegliche Teile, dass selbst etwas Einfaches wie die Anfrage zur Wiederverwendung eines UI-Elements wie Clippy vermutlich für immer zwischen den Zahnrädern stecken bleibt.
    • Es gibt ziemlich viele verpasste Chancen. Zum Beispiel ist AskJeeves immer noch einfach eine gewöhnliche Suchmaschine, im Grunde ein Google-Frontend.
    • Ich bin überzeugt: Wenn sie den heutigen Copilot als Cortana herausgebracht hätten, hätte es kaum Gegenwind gegeben.
  • Eine wenig genutzte Clippy-Funktion war, dass Clippy und andere Microsoft Agents wie der Suchhund aus Windows XP eine API bereitstellten, mit der Entwickler eigene Assistenten bauen konnten.
    https://en.wikipedia.org/wiki/Microsoft_Agent
    Dank der schrecklichen Schönheit von ActiveX war es auch möglich, diese Agents in Webseiten zu laden. Die API wurde bis Windows 7 unterstützt und war damals eine optionale Komponente; es wäre schön, wenn jemand das alte Agent SDK ausgraben und ChatGPT mit dem echten Clippy verbinden würde.

    • Das alte Agent SDK gibt es hier:
      https://archive.org/details/microsoftagentsoftwaredevelopmen...
      Die eigentliche Clippy-Figur war allerdings, anders als andere Office-Optionen wie der Wizard, nicht im Agent SDK enthalten; man muss sie also aus einer echten Office-Kopie herausziehen oder eine bereits extrahierte Version bekommen.
      https://archive.org/details/clippitMS
      Irgendwie hatte ich überhaupt nicht vermutet, dass auch der Windows-XP-Suchhund ein Agent-Charakter war.
    • Nachdem ich etwa 30 Minuten mit LLM Clippy herumgespielt habe, wünsche ich mir wirklich, dass er Tool-Nutzung unterstützen würde.
      Mit einem passenden System-Prompt dazu könnte man ziemlich nah an Vigor aus User Friendly herankommen.
      http://www.userfriendly.org/cartoons/archives/00jan/20000104...
      Natürlich braucht es auch pico-chu für Anfänger.
    • Großes Potenzial. Es wäre gut, wenn er anfangs ganz normal auftritt und dann mit der Zeit dem Nutzer gegenüber immer aggressiver und feindseliger wird.
    • Gute Idee. Wenn das jemand macht, sollte er es für zusätzlichen Wahnsinn auch gleich mit https://en.wikipedia.org/wiki/Windows_MultiPoint_Mouse verbinden.
    • Früher habe ich aus Spaß in einer VB-App tatsächlich einen dieser Agents verwendet. Ich nahm die Roboterfigur; wenn man etwas Falsches in ein Textfeld eingab, wedelte sie mit den Armen und nannte den Nutzer einen Idioten.
      Das waren lustige Zeiten.
  • Das ist eindeutig ein Fall von „Bau, was die Leute wollen“.
    Genau danach wurde auf x.com praktisch täglich gefragt.
    https://x.com/search?q=ai%20bring%20clippy%20back&src=typed_...

    • Tatsächlich ist das eine gute Methode, um Produktideen zu finden. Ich habe Grok so etwas gefragt wie: Finde Beiträge darüber, was Leute sich wünschen. Daraufhin führte es mehrere Suchen auf X durch, einschließlich Embedding-Suche, und schlug Dinge vor, die die Leute wiederhaben wollen, etwa Tamagotchi oder ICQ.
  • Interessanter Fakt: Clippy stammt aus Microsoft Bob, und Melinda Gates war damals Marketingmanagerin für dieses Produkt.
    Ich habe mich oft gefragt, ob die Beziehung der beiden irgendeine Rolle dabei spielte, Clippy am Leben zu erhalten. Jetzt frage ich mich, ob Clippy Bill Gates nach der Scheidung traurig macht.

    • Ich glaube nicht, dass Bill Gates so viel über Clippy nachdenkt.
  • Kann man Erzählung mit der Stimme von Gilbert Gottfried hinzufügen?
    https://www.youtube.com/watch?v=tu_Pzuwy-JY

  • Wenn ich mich richtig erinnere, war Clippys bekannteste Funktion, sich während der Arbeit einzumischen und Ratschläge zu geben. Diese Ratschläge waren meist banal, nutzlos und nervig, weshalb der Ruf schlecht war, aber mit einem leistungsfähigen Large Language Model könnte das ursprüngliche Konzept tatsächlich funktionieren.
    Nicht einfach ein Chatbot, der auf Text antwortet, sondern etwas, das den Bildschirm beobachtet, ihn mit einem Vision-Modell versteht und dann passende Hinweise gibt wie „Für das, was du gerade machst, gibt es einen einfacheren Weg“. Noch fehlt das Vertrauen, um öffentliche LLM-APIs auf diese Weise zu nutzen, und auch die Hardware, um das lokal laufen zu lassen, aber wenn eines von beidem gelöst wird, könnte ClipGPT wirklich nützlich werden.

    • In den späten 1980ern und frühen 1990ern hatten viele Programme Hilfedokumentationen mit Volltextsuche, aber die Trefferquote für hilfreiche Antworten lag unter 10 %, sodass sie praktisch nicht richtig funktionierten.
      Bis Google kam, hatten Nutzer gelernt, Volltextsuchen zu meiden. Die an Clippy angehängte Volltextfunktion lieferte in etwa 50 % der Fälle brauchbare Antworten, und ich denke, der Kern war, sie als charmante Cartoonfigur zu gestalten, um die Vorurteile zu überwinden, die Nutzer Mitte der 1990er gegenüber der Volltextsuche in Hilfen hatten.
    • Es sieht so aus, als würden Sie einen Brief schreiben.
      Benötigen Sie Hilfe?
      Hilfe beim Schreiben eines Briefs erhalten
      Brief ohne Hilfe selbst eingeben
      |_| Diesen Tipp nicht mehr anzeigen
    • Dank moderner multimodaler LLMs nähern wir uns zwar dieser Richtung, aber um zu verstehen, was der Nutzer tun will, und seine Absicht abzuschätzen, müsste man wahrscheinlich in bestimmten Abständen Screenshots machen und sie direkt ins LLM geben, um zeitlichen Kontext bereitzustellen.
      Allerdings weiß ich nicht, wie viele Menschen sich damit wohlfühlen würden, dass beliebig aufgenommene Computer-Screenshots an ein nicht-lokales LLM gesendet werden.
    • Um es noch lustiger zu machen, müsste man es unnötig gemein und nervig machen.
      „Moment mal, suchst du wirklich danach? Weißt du nicht mal, wie man das macht? Das ist ein Witz, oder?“
      „Meine Güte, es ist schon eine Stunde vergangen und du hast diesen Bug immer noch nicht behoben? Bist du dumm? Du hast diesen Job nicht verdient.“
    • „Es ist Zeit zu arbeiten, Dave.“
  • Gut gemacht. ollama-Support wäre auch nützlich.
    https://github.com/ollama/ollama

    • Genau das habe ich auch gedacht. Ich habe ollama bereits so eingerichtet, dass LLM-Jobs lokal laufen, und möchte das nicht doppelt bauen, aber dieses Frontend würde ich gern zum Spaß ausprobieren.
  • Dieses UI-Design vermisse ich wirklich. Gut gemacht.

    • Dann solltest du zu SerenityOS beitragen.
  • Erstaunlicherweise gibt es inzwischen auch CowPilot: https://github.com/agentsea/cowpilot

  • Wow, die Benutzerfreundlichkeit ist wirklich großartig. Ich habe noch nicht herausgefunden, wie man Clippy an eine andere Stelle statt in die Bildschirmmitte verschiebt, aber es funktioniert gut.
    Ich habe mehrere Modelle heruntergeladen und bin schon mitten im Gespräch.

    • Du kannst Clippy verschieben, indem du die rechte untere Ecke anklickst und ziehst.