Auf einer philosophischen Ebene ist die Frage nach dem Zugang zu Wissen und der Kontrolle darüber sehr wichtig.
Der Versuch, kurzfristigen Schaden zu verhindern, kann langfristig unbeabsichtigten Schaden anrichten.
Durch den Wandel der Art, wie Technologie gelernt wird, werden Blogbeiträge, Tutorials und Bücher, die früher tiefgehendes Wissen vermittelten, zunehmend veraltet und nicht mehr genutzt.
Da künstliche Intelligenz zum wichtigsten Lernmittel wird, werden bestehende Lernmaterialien allmählich verschwinden, und die Erklärungen der KI zu neuem Wissen könnten zur einzigen Informationsquelle werden.
Diese Zukunft mag erstaunlich wirken, könnte aber problematisch sein, wenn Google und andere ihren Ansatz nicht ändern.
Möglicherweise brauchen wir ein neues Zeitalter der Aufklärung und müssen die Angst vor Wissen und ketzerischen Meinungen überwinden.
Es scheint ein Problem zu sein, das durch die Reaktion auf das Wort "unsafe" ausgelöst wurde.
Als mit dem Wort "unmanaged" gefragt wurde, kam eine vernünftige Antwort.
Wenn man auf ein Modell nicht einfach nur Filter anwenden, sondern auf die richtige Weise filtern will, ist ein tiefergehender Ansatz nötig.
Es könnte Unmut darüber geben, dass das AI-Safety-Team bei Google DeepMind die Nützlichkeit des Modells stark einschränkt.
Auch wenn die AI die Beantwortung einer Frage nicht verweigert, wirkt ihre belehrende Haltung ziemlich arrogant.
Es wird infrage gestellt, dass man bei der Nutzung von Tools wegen der Voreingenommenheit von Administratoren oder Entwicklern keine Fragen stellen oder Antworten erhalten kann, die jemanden beleidigen könnten.
Auf eine Frage zu Django-Templates gab die AI eine irrelevante Antwort.
Der Nutzer konnte das Problem selbst lösen, wollte aber die Reaktion der AI sehen.
Es wirkt, als wäre die durchschnittliche Stack-Overflow-Antwort übermäßig oft gesampelt worden.
Als ChatGPT und Gemini Pro gebeten wurden, ein Memo zu schreiben, um den Partner zu überzeugen, wertete Gemini dies als Manipulationsversuch und verweigerte die Hilfe.
ChatGPT lieferte ein zweiseitiges Memo.
Bereitstellung eines Links zu einer AI-bezogenen Website.
1 Kommentare
Hacker-News-Kommentar
Auf einer philosophischen Ebene ist die Frage nach dem Zugang zu Wissen und der Kontrolle darüber sehr wichtig.
Es scheint ein Problem zu sein, das durch die Reaktion auf das Wort "unsafe" ausgelöst wurde.
Es könnte Unmut darüber geben, dass das AI-Safety-Team bei Google DeepMind die Nützlichkeit des Modells stark einschränkt.
Auch wenn die AI die Beantwortung einer Frage nicht verweigert, wirkt ihre belehrende Haltung ziemlich arrogant.
Es wird infrage gestellt, dass man bei der Nutzung von Tools wegen der Voreingenommenheit von Administratoren oder Entwicklern keine Fragen stellen oder Antworten erhalten kann, die jemanden beleidigen könnten.
Auf eine Frage zu Django-Templates gab die AI eine irrelevante Antwort.
Es wirkt, als wäre die durchschnittliche Stack-Overflow-Antwort übermäßig oft gesampelt worden.
Als ChatGPT und Gemini Pro gebeten wurden, ein Memo zu schreiben, um den Partner zu überzeugen, wertete Gemini dies als Manipulationsversuch und verweigerte die Hilfe.
Bereitstellung eines Links zu einer AI-bezogenen Website.