Launch HN: Human Layer (YC F24) – Human-in-the-Loop-API für AI-Systeme

 (news.ycombinator.com)
1 Punkte von GN⁺ 2024-11-27 | 1 Kommentare | Auf WhatsApp teilen

  • Einführung in HumanLayer

    • HumanLayer ist eine API, mit der AI-Agenten mit Menschen interagieren können, um Feedback, Eingaben, Freigaben usw. zu erhalten.
    • Sie unterstützt die Bereitstellung sicherer autonomer AI-Systeme und ermöglicht einen einfachen Einstieg über Python- und TypeScript-SDKs.
    • Es gibt eine kostenlose Testphase sowie ein transparentes nutzungsbasiertes Preismodell.

  • Umgang mit den Risiken von AI-Systemen

    • Unterstützt Situationen, in denen menschliches Eingreifen erforderlich ist, um die Risiken von AI-Systemen zu verringern.
    • Der Ausgangspunkt war die Entwicklung von AI-Agenten für Datenteams, wobei Kunden davor zurückschreckten, AI-Agenten direkten Zugriff auf Produktionssysteme zu geben.
    • Dafür wurde ein grundlegender Freigabe-Workflow aufgebaut, sodass AI vor der Ausführung kritischer Aufgaben die Zustimmung eines Menschen einholt.

  • Funktionen von HumanLayer

    • Nach der Integration des HumanLayer-SDK können AI-Agenten jederzeit während der Ausführung menschliche Freigaben anfordern.
    • Es leitet Anfragen an die passende Person weiter, verwaltet den Status während des Wartens auf eine Antwort und bietet einen vollständigen Audit-Trail.
    • Zusätzlich zu „Freigabeanfragen“ unterstützt es auch die Funktion „Menschen als Tool“, die LLMs oder Agent-Frameworks zugänglich gemacht werden kann.

  • Einsatzszenarien für HumanLayer

    • Ein AI-SDR verfasst personalisierte Vertriebs-E-Mails und holt vor dem Versand in Slack die Freigabe eines Menschen ein.
    • Ein AI-Newsletter führt E-Mail-Gespräche mit Abonnenten, während HumanLayer eingehende E-Mails an den Agenten weiterleitet und Tools zum Antworten bereitstellt.
    • Es kann ein kundenorientierter DevOps-Agent gebaut werden, der bei PR-Reviews sowie bei der Planung und Ausführung von DB-Migrationen menschliche Freigaben einholt.

  • Preismodell und Support

    • Es gibt einen kostenlosen Tarif sowie ein flexibles kreditbasiertes Preismodell.
    • Teams, die kundenorientierte Agenten entwickeln, erhalten White-Labeling, zusätzliche Funktionen und priorisierten Support.

  • Weitere Informationen

    • Wer HumanLayer in ein System integrieren möchte, kann die Dokumentation lesen oder über Demo buchen einen Blick darauf werfen.
    • Das Produkt befindet sich noch in einer frühen Phase, und Ideen sowie Erfahrungen zu Agenten, Zuverlässigkeit und der Balance zwischen menschlichen und AI-gestützten Workloads sind willkommen.

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2024-11-27
Hacker-News-Kommentare

  • Es gibt die Meinung, dass Startup-Inhaber mithilfe von AI interne Services im DIY-Stil erstellen möchten. Ich denke zwar, dass die Nutzung von SaaS besser ist, aber sie ist teuer und nicht unkompliziert. Wenn Wettbewerb entsteht, werden die Preise vermutlich sinken.

  • Es gibt Bedenken wegen der hohen Kosten von AI-Services; kostenlose Credits oder Preisanpassungen seien nötig.

  • Es gibt Bedenken hinsichtlich Automation Bias und Automation Complacency: Menschen könnten Entscheidungen der AI unkritisch abnicken.

  • Es wurde die Idee vorgeschlagen, menschliche Stellvertreter einzusetzen, die Aufgaben übernehmen, die AI-Agenten nicht leisten können.

  • Es wird auf Probleme bei Frameworks hingewiesen, die asynchrone oder langlaufende Tool-Aufrufe verarbeiten. Es gibt Ideen zur Lösung, die aber in einem anderen Beitrag behandelt werden sollen.

  • Es gibt die Meinung, dass Anstrengungen nötig sind, um auf der API-Ebene zu bleiben.

  • Es gibt die Ansicht, dass in der Frühphase der AI Menschen die Logik ausgeführt haben und die Qualität später sank, nachdem Menschen entfernt wurden. Als Metapher wird genannt, dass es nur eine vorübergehende Lösung sei, wenn Drittanbieterfirmen wieder Menschen einschleusen, um das zu beheben.

  • In Startups wird menschliches Eingreifen als wichtig angesehen; um das Potenzial von LLMs in realen Wert zu verwandeln, brauche es Kontrolle und Aufsicht. Dafür wurden maßgeschneiderte Workflows und manuelle Prozesse aufgebaut.

  • Es gibt die Meinung, dass Services mit grundlegenden Ein- und Ausgabefunktionen bereits in vielen Systemen möglich sind. Es lohne sich, das auszuprobieren, bevor man es selbst implementiert.

  • Ein Medizintechnikunternehmen erwägt AI als Workflow-Agent und plant, LLMs zur Unterstützung von ISO13485-Qualitätssicherungsprozessen einzusetzen. Man würde dazu gern die Meinungen anderer HN-Nutzer hören.