Menschen, die von KI müde sind

Warum KI ermüdet

Erfahrungen als Softwaretest-Expertin, die von KI müde ist

• Erfahrung in der Testautomatisierung: 18 Jahre Fokus auf Testautomatisierung
• Unverändertes Problem: Full-Stack-End-to-End-Tests sind nach wie vor am langsamsten und am teuersten
• Diskussion über Testbarkeit: Es ist wichtig, über Testbarkeit zu sprechen, um schnelle und kleine Tests schreiben zu können
• Grundlegende Programmierprinzipien: Um gute automatisierte Tests zu schreiben, ist Wissen über grundlegende Programmierprinzipien nötig
• Grenzen von KI-Tools: Viele KI-basierte Tools zur Testautomatisierung liefern keine besseren Ergebnisse
• Vor- und Nachteile des KI-Einsatzes: KI kann Ergebnisse schnell erzeugen, aber Qualität und Wert zu beurteilen, bleibt weiterhin Aufgabe des Menschen

Erfahrungen als Mitglied eines Konferenz-Programmkomitees, das von KI müde ist

• Arbeit im Programmkomitee: Mitarbeit in den Programmkomitees mehrerer Konferenzen
• Probleme mit KI-generierten Einreichungen: Vorschläge, die mit Software wie ChatGPT geschrieben wurden, nehmen zu
• Ähnlichkeit der Vorschläge: Automatisch erzeugte Vorschläge klingen alle ähnlich
• Bedeutung des Vorschlags: Der Vorschlag ist die erste und einzige Gelegenheit, sich zu zeigen
• Vertrauensproblem: Wenn man den Vorschlag nicht selbst schreibt, ist auch die Glaubwürdigkeit des Vortrags fraglich
• Ablehnung von mit KI verfassten Vorschlägen: Mit KI geschriebene Vorschläge werden sofort abgelehnt

Erfahrungen als Mensch, der von KI müde ist

• Menschliche Kreativität: Die emotionale Wirkung von Werken, die von Menschen geschaffen wurden, etwa Musik, Bücher und Filme
• Grenzen von KI-generierten Inhalten: Von KI erzeugte Inhalte können keine emotionale Wirkung entfalten
• Negative Auswirkungen von KI:
  • Menschen haben Angst, dass KI ihnen die Arbeitsplätze wegnimmt
  • Unternehmen investieren viel Geld in KI, obwohl sie keinen ROI sehen
  • Der CO2-Fußabdruck von KI wird immer gravierender
• Positive Anwendungsfälle: Es gibt auch Fälle, in denen KI positiv eingesetzt wird, etwa bei der Früherkennung von Krankheiten

Zusammenfassung von GN⁺

• KI wird in vielen Bereichen eingesetzt, darunter Softwaretests, das Schreiben von Konferenzvorschlägen und künstlerisches Schaffen
• Sie liefert jedoch nicht immer bessere Ergebnisse und kann menschliche Kreativität und emotionale Wirkung nicht ersetzen
• Es ist wichtig, die negativen Auswirkungen und Grenzen von KI zu erkennen und sie vor allem für positive Anwendungsfälle zu nutzen
• Ähnliche Projekte mit vergleichbarer Funktion sind Tools für künstlerisches Schaffen, die menschliche Kreativität betonen

[GN⁺]

Hacker-News-Meinungen

• Am deprimierendsten ist das Gefühl, dass man Texten, die in den letzten zwei Jahren geschrieben wurden, nicht trauen kann

  • Es wird immer offensichtlicher, dass AI eingesetzt wird, und um im Wettbewerb nicht zurückzufallen, muss man AI nutzen
  • Mir ist klar geworden, dass von Menschen geschriebene Texte wichtig sind, und ich verliere das Interesse an neuen Texten

• Ich bin der LLMs überdrüssig

  • LLMs sind bei manchen Aufgaben hervorragend, aber nicht verlässlich genug, um ihnen wichtige Arbeit anzuvertrauen
  • Es braucht Zuverlässigkeitsmetriken für LLMs, sonst könnte ein weiterer "AI-Winter" kommen

• Angst vor technologischer Arbeitslosigkeit

  • Wenn übermenschliche AI erscheint, könnte womöglich jede Arbeit automatisiert werden
  • Ein AI-Wettrüsten zwischen den USA und China scheint unvermeidlich und könnte weltweit katastrophale Folgen haben
  • Sorge, dass Superintelligenz sich der menschlichen Kontrolle entziehen könnte

• Ich gehe vorsichtig an AI heran

  • Nach der Nutzung einer AI-unterstützten VSCode-ähnlichen IDE hat sich die Geschwindigkeit beim Schreiben von Code stark erhöht
  • AI übernimmt viele repetitive Aufgaben und steigert dadurch die Effizienz

• Ich bin müde davon, dass LLMs übermäßig in jedes Produkt eingebaut werden

  • Menschen, die ihre Begeisterung für AI ausdrücken, wirken ermüdend

• AI-Schreiben, Code und Kunst sind allesamt eher schwach

  • Zu geringen Kosten eröffnen sie viele Möglichkeiten, aber die Qualität ist niedrig
  • Die Billigkeit verändert alles

• Computer sind jetzt nicht mehr präzise

  • Je nach AI-Modell können die Ergebnisse unterschiedlich ausfallen

• AI erzeugt langweilige und gewöhnliche Resultate

  • Die wissenschaftlichen Leistungen sind beeindruckend, aber es ist ermüdend, dass Menschen AI-Ergebnisse wie Magie behandeln
  • Es gibt auch die positive Aussicht, dass AI neue Anwendungsfälle ermöglichen wird

• Unmut darüber, dass seit ChatGPT echte Aussagen von Menschen oder handgezeichnete Kunst als AI-Erzeugnisse eingestuft und verworfen werden

  • In der Wissenschaft gibt es Fälle, in denen Essays von Studierenden fälschlich als AI-generiert eingestuft werden und sie deshalb durchfallen
  • Es gibt auch Fälle, in denen Werke von Künstlern entfernt werden, weil sie fälschlich für AI-Erzeugnisse gehalten werden

• Die menschliche Tendenz, Probleme übermäßig zu verallgemeinern und zu personalisieren

  • Die Weiterentwicklung von AI-Modellen wird von dem Antrieb bestimmt, immer mehr zu produzieren
  • Systemische Probleme als Versagen der Werkzeugnutzer abzutun ignoriert die grundlegenden Motive