Anthropic: Richtlinie „Bewerber sollten keine AI-Assistenten verwenden“
(simonwillison.net)- In Anthropic-Bewerbungen gibt es ein Feld, in dem Bewerber zustimmen müssen, keine AI-Assistenten zu verwenden, damit sie ihr eigenes Interesse und ihre Fähigkeiten unmittelbar zeigen
- Das Unternehmen fördert zwar den Einsatz von AI-Systemen bei der Arbeit nach der Einstellung, verlangt aber gerade im Bewerbungsprozess Antworten, die nicht durch AI vermittelt wurden
- Diese Richtlinie dient auch dazu, die Kommunikationsfähigkeit ohne AI-Unterstützung der Bewerber zu bewerten
- Bewerber müssen mit Yes bestätigen, dass sie die Hinweise gelesen haben und ihnen zustimmen, um mit dem weiteren Bewerbungsprozess fortfahren zu können
- Die Antwort auf „Warum möchten Sie bei Anthropic arbeiten?“ wird als wichtig bewertet; gute Antworten umfassen laut Hinweis üblicherweise 200–400 Wörter
Einschränkung der AI-Nutzung in Bewerbungen
- Die Online-Bewerbungsformulare von Anthropic enthalten den Hinweis, im Bewerbungsprozess keine AI-Assistenten zu verwenden
- Derselbe Hinweis erklärt, dass das Unternehmen nach der Einstellung den Einsatz von AI-Systemen fördert, damit Menschen schneller und effektiver arbeiten können
- In der Bewerbungsphase möchte Anthropic jedoch persönliches Interesse erkennen, das nicht durch ein AI-System gelaufen ist
- Auch die Kommunikationsfähigkeit ohne AI-Unterstützung der Bewerber gehört zu den Bewertungskriterien
Punkte, die Bewerber bestätigen und beantworten müssen
- Bewerber müssen mit Yes angeben, dass sie diese Richtlinie gelesen haben und ihr zustimmen
- Anschließend müssen sie die Frage „Warum möchten Sie bei Anthropic arbeiten?“ beantworten
- Diese Antwort wird als wichtig bewertet; laut Hinweis umfassen gute Antworten üblicherweise 200–400 Wörter
1 Kommentare
Hacker-News-Kommentare
Aus der Gegenposition betrachtet wirkt diese Forderung nicht wirklich falsch; als Bewerber würde ich sie wohl als nützliche Information über den Bewerbungsprozess verstehen.
Anthropic empfiehlt zwar den Einsatz von KI, bittet aber höflich darum, zumindest den Text der Bewerbung selbst zu schreiben; das ist in diesem Umfang vernünftig und man kann sich daran halten.
Eine Haltung wie „Merkt man es, wenn ich KI benutze, ist das Betrug?“ ist ähnlich wie beim ersten Date zu lügen. Wenn man nur kurzfristige Ergebnisse will, kann das funktionieren; wenn man aber langfristig zusammenarbeiten möchte und ohnehin von mehreren klugen Leuten interviewt wird, ist es viel besser, sich einfach darauf einzulassen.
Man drängt LLMs ständig als neue Form der Kommunikation auf, empfiehlt, Texte „freundlicher“ oder „professioneller“ zu machen, und dann bittet ausgerechnet das Unternehmen, das solche Tools baut, die Menschen, die sich am meisten dafür interessieren, sie genau dafür nicht zu verwenden.
Dass es für andere in Ordnung sein soll, sie so zu nutzen, man es bei sich selbst aber nicht möchte, wirkt lächerlich und heuchlerisch und lässt ein wenig erkennen, was in diesen Firmen wirklich vorgeht.
Das erinnert an Roy Wood Jr. bei einer Waffenveranstaltung. Dort wurde behauptet, Waffen machten Menschen sicherer, zugleich bat man aber aus Sicherheitsbedenken darum, am Veranstaltungsort keine Waffen zu tragen – eine ähnliche kognitive Dissonanz.
https://youtube.com/watch?v=m2v9z2S5XzQ&t=190
Ich habe schon gelesen, dass Menschen egoistischer werden[1], aber es ist immer noch schockierend zu sehen, wie Individualismus und Eigennutz mit Argumenten wie „Es ist doch nicht illegal“ oder „Man kann es doch nicht nachweisen“ durchgedrückt werden.
Schon die Vorstellung, einer höflichen Bitte, keine KI zu verwenden, nicht nachzukommen, fällt mir schwer. Wenn ich dadurch auf dem Arbeitsmarkt stark benachteiligt werde, nehme ich das in Kauf.
Schon vor 20 Jahren trafen Leute aus meinem Jahrgang Entscheidungen, die mir egoistisch erschienen, um voranzukommen, und ich war damit einverstanden, ohne solche Entscheidungen auf eine niedrigere Umlaufbahn zu geraten. Trotzdem möchte ich meinen Unmut darüber äußern, dass Menschen Egoismus rechtfertigen oder es nicht einmal als egoistisch ansehen, diese Bitte zu ignorieren.
[1] https://fortune.com/2024/03/12/age-of-selfishness-sick-singl...
Das ist ein bisschen so, als würde ein Tabakkonzern seinen Mitarbeitern sagen, sie dürften nicht rauchen.
Respekt sollte in beide Richtungen gehen. Das ist keine Zusammenarbeit, sondern eher eine einseitige, hierarchische Anweisung, mit der sie sich vor den Schäden des Werkzeugs schützen, das sie selbst verkaufen.
Der äußere Eindruck ist nicht gut. Entweder man steht selbstbewusst hinter seinem Produkt, oder man muss endlosen Spott und Misstrauen hinnehmen.
In der Formulierung „Bitte verwenden Sie im Bewerbungsprozess keine KI-Assistenten. Wir möchten Ihr persönliches Interesse an Anthropic ohne Vermittlung durch KI-Systeme verstehen und außerdem Ihre Fähigkeit zur Kommunikation ohne KI-Hilfe bewerten“ stecken zwei Dinge, die verdreht sind.
Erstens kann man Menschen nicht auffordern, keine KI zu verwenden, wenn ein vorsichtiger und verantwortungsvoller Einsatz nicht nachweisbar ist. Ohne KI können hervorragende Antworten entstehen, mit KI ebenfalls, und man wird beides nicht unterscheiden können. Am Ende kann man nur schlechte Antworten und Dyslexie herausfiltern.
Zweitens ist das weiterhin der Ansatz, dass KI Betrug sei; ich hätte erwartet, dass Anthropic beim verantwortungsvollen Einsatz von KI eine Vordenkerrolle einnimmt.
Im Leben gibt es keinen Betrug, man optimiert nur auf das falsche Ziel. Wenn KI die Hausaufgaben gemacht hat, dann waren die Hausaufgaben nur ein Proxy für Talent, und die KI hat kein Talent erzeugt. Wenn KI das Endergebnis erstellt hat und man es selbst nicht versteht, dann hat sie einem nicht geholfen, sondern man ist davon abhängig geworden.
Senior-Leute in der Praxis scheinen das nicht recht zu begreifen, aber LLMs vermitteln jungen Fachkräften kein Muscle Memory. Stattdessen lassen sie sie eher in endlosen Bugfix-Schleifen oder beim Entwirren von Code-Chaos feststecken.
Zum Lernen kann man ihnen einen gewissen Wert abgewinnen, aber der ist begrenzt. Als ich angefangen habe, habe ich enorm viel gelernt, indem ich Algorithmenbücher gelesen, Dinge selbst implementiert und kaputtgemacht habe. Heute habe ich genug Erfahrung, um falsche Antworten zu erkennen und LLMs nutzen zu können, aber selbst dann habe ich das Gefühl, dadurch etwas fauler zu werden.
Die meisten Menschen lernen besser, indem sie etwas mehrfach selbst tun, als indem sie ein paar Buchkapitel lesen. Wenn man LLMs auf ein Problem anwendet, übt man am Ende nur, LLMs zu benutzen; das kann für sich genommen nützlich sein, kann einen aber auch zu jemandem machen, der nichts mehr kann, wenn kein LLM verfügbar ist.
Erst gestern habe ich gesehen, wie ein 14-jähriges Kind ChatGPT-Geschwurbel in eine GCSE-Aufgabe in Informatik kopiert hat; das war kein Lernen. Es hatte es nicht einmal gelesen, sondern warf dem Prüfer nur einen Text hin, um zu sehen, ob er durchgeht.
Auch Recruiting ist für unzureichend qualifizierte Bewerber ein Zahlenspiel. Wenn man mit derselben Abkürzung die Zahl der Bewerbungen erhöht, wird man am Ende zwar „Erfolg“ haben, aber das ist nur ein kurzfristiger Vorteil; die Fähigkeit, die Arbeit tatsächlich zu erledigen, fehlt weiterhin.
Zum Glück ist das meistens ziemlich leicht zu erkennen, daher sortiere ich sie fast sofort aus.
Wenn man davon ausgeht, dass die Englischkenntnisse letztlich nicht ausreichen, um die Stelle auszuüben, verschwendet diese Person in dieser Situation sowohl ihre eigene Zeit als auch die des Unternehmens.
Anthropic dürfte kaum einen Mangel an Bewerbern haben.
Wenn man die Leistung von Kandidaten in einer Situation bewerten will, in der sie keine KI nutzen können, sollte man sich meiner Ansicht nach einfach in denselben Raum setzen und miteinander sprechen.
Wenn man bei Aufgaben, bei denen der Einsatz von KI vorteilhaft und schwer zu erkennen ist, verlangt, keine KI zu nutzen, wirkt sich das am Ende nachteilig auf ehrliche Menschen aus.
Im Recruiting-Prozess wollen sie selbst KI einsetzen. Sie wollen ihre Arbeit und ihre Biases an Maschinen auslagern, möchten aber nicht, dass andere das tun.
Es gibt einen Grund, warum die EU-KI-Gesetzgebung KI, die bei der Einstellung von Menschen eingesetzt wird, zu einem wichtigen Regulierungsgegenstand gemacht hat.
Indem man den Hinweis gibt, direkt zu antworten, könnte das ehrlichen Menschen sogar einen Vorteil verschaffen.
Als jemand mit Autismus und Legasthenie finde ich diese Bewerbungsanforderung wirklich unangenehm.
Ich denke visuell und habe stichhaltige Ideen und ungewöhnliche Perspektiven, aber manchmal fällt es mir schwer, visuelle Gedanken in traditionelle Sprache oder Schrift zu übertragen. KI-Tools sind für mich sehr wertvoll und überbrücken die Lücke zwischen visuellem Denken und der schriftlichen Ausdrucksform, die am Arbeitsplatz erwartet wird.
Ein LLM ist im Kern ein Übersetzungswerkzeug. So wie andere eine Rechtschreibprüfung oder Diktiersoftware nutzen, verwende ich ein LLM, um bildhafte Gedanken in Wörter zu übersetzen. Es verändert nicht meine Ideen oder Einsichten, sondern hilft mir nur, sie in einem neurotypisch zugänglichen Format auszudrücken.
Während Anthropic KI-Systeme entwickelt, die der Menschheit helfen sollen, schließt das Unternehmen im Bewerbungsprozess Menschen ausdrücklich aus, die KI als Barrierefreiheits-Tool nutzen. Das ist so, als würde man jemandem sagen, er dürfe sein gewohntes Hilfsmittel im Bewerbungsprozess nicht verwenden.
Die Aussage, man wolle „Kommunikationsfähigkeit ohne KI-Hilfe“ bewerten, bedeutet, meine Fähigkeit zu bewerten, ohne mein Hilfsmittel zu kommunizieren. Für mich zeigt KI-gestützte Kommunikation meine Gedanken sogar authentischer. Ich versuche nicht, mir einen unfairen Vorteil zu verschaffen, sondern die Ausgangsbedingungen so anzugleichen, dass meine Ideen für andere verständlich werden.
Sollte ein Unternehmen, das KI-Systeme baut, nicht auch die Perspektiven neurodiverser Talente wollen, die einzigartige Einblicke darin haben, wie KI Menschen tatsächlich helfen kann, anders zu denken und zu kommunizieren?
Anfangs bin ich mit der Haltung „KI ist schlecht“ herangegangen, und ehrlich gesagt habe ich diese Ansicht an sich immer noch. Aber er liefert eine sehr überzeugende Begründung dafür, warum man KI zulassen und aufmerksam beobachten sollte.
Besonders die Analogie zur Rechtschreibprüfung war ausschlaggebend. Das hängt auch damit zusammen, dass „KI“ nicht eine einzige Sache ist, sondern ein sehr breites Spektrum. Zum Beispiel sehe ich kein Problem darin, wenn ein Bewerber einen Editor verwendet, der Grammatik markiert.
Es ist schwierig, die Grenze zu ziehen, aber vielleicht ist es besser, gar keine zu ziehen. Man führt das Interview und, wenn praktisches Coding dazugehört, beobachtet man, ob der Kandidat KI nutzt oder nicht, und bewertet entsprechend. Wenn jemand sich wie ein bloßer Proxy verhält, stellt man ihn eben nicht ein. Ansonsten muss man beurteilen, wie stark die KI-Abhängigkeit ist und wie gut sie als Werkzeug eingesetzt wird. Das ist nicht einfach, dürfte aber besser sein als ein vollständiges Verbot.
Ich sehe das ähnlich wie bei einer sehbehinderten Person, die ein Text-to-Speech-Tool nutzt. Warum sollte es eine Rolle spielen, auf welche Weise die Arbeit erledigt wird? Entscheidend sind die Qualität des Ergebnisses und ob man mit der Person interagieren kann.
Ein weiteres Beispiel: Angenommen, jemand kann nur arbeiten, wenn er mit einem Kollegen Pair Programming macht. Getrennt ist er völlig nutzlos, zusammen sind sie aber etwa 150 % so produktiv wie zwei gewöhnliche Pair-Programmierer. Würde man sie einstellen? Wie viel würde man den beiden als Paar zahlen? Meiner Ansicht nach lautet die richtige Antwort: einstellen, und ihnen mehr zahlen, als wenn man ein einzelnes Gehalt auf zwei Personen aufteilt. Wenn da nicht die Bürokratie wäre, würde ich das gern ausprobieren.
Ein sehr guter Beitrag, und danke für die Einsicht. Er hat mir gezeigt, dass ich falschlag, und mir die Chance gegeben, der richtigeren Position näherzukommen.
Ein ziemlich schwieriges Problem. Solche KI-Unternehmen wachsen mit der Vorstellung, dass Menschen nicht bald durch KI ersetzt werden, sondern durch Menschen, die KI effektiv nutzen und damit 10-fache Produktivität erreichen.
Wenn KI aus einem durchschnittlichen Entwickler einen 10x-Entwickler macht, warum sollte man das im Vorstellungsgespräch nicht sehen wollen? Zumal es in den letzten Monaten trivial geworden ist, dieses Interviewsystem auszutricksen. Das Problem sind nicht die Bewerber, sondern veraltete Interviewmethoden.
KI kann eher verdecken, ob jemand die Fallstricke erkennt und die Design- und Architekturentscheidungen beurteilen kann, die für eine echte Engineering-Rolle nötig sind. Besonders bei Bewerbern ab Senior-Level möchte man bewerten, wie sie über ein Problem nachdenken; dabei sollten sich ihre Erfahrung, ihr technisches Verständnis und ihre Kommunikationsfähigkeit zeigen.
Wir wollen nicht mit KI arbeiten, sondern für die Zeit eines Menschen bezahlen. Wir wollen jemanden einstellen, der bei schwierigen Problemen nicht die Hälfte seiner Kognition abschaltet.
Dann erkennt man schnell, wer die eigene Arbeit wirklich versteht.
Ist dieser Kandidat ein genialer 10x-Programmierer, weil er mit KI die Zeit fürs Schreiben von Code auf ein Zehntel reduziert hat?
Natürlich könnte man sagen, man müsse die Aufgabe nur so komplex machen, dass KI sie nicht lösen kann. Aber KI-Systeme ändern sich ständig, sammeln Nutzer-Prompts und werden besser. Außerdem ist ein Bewerber manchmal noch in einer frühen Phase des Bewerbungsprozesses, in der es nicht gerechtfertigt ist, viel Zeit in eine komplexe Aufgabe zu stecken. Es ist einfach leichter und effektiver, zu sagen: Bitte keine KI verwenden.
Auch damals reagierten die Aufgabensteller genauso: „Nicht wir sind das Problem, die Maschine ist das Problem. Verbieten wir sie!“
Langfristig kam man zu dem Schluss: Wenn man mit einem Taschenrechner schummeln konnte, war es schlicht eine schlechte Prüfung.
Ich denke, dahinter steckt die Weigerung anzuerkennen, dass es hier ein Kompetenzproblem auf Seiten derjenigen gibt, die die Prüfung erstellen. Wenn die Aufgabensteller ihre Arbeit besser gemacht hätten, müssten sie Kandidaten die Nutzung von KI nicht verbieten. Dass so eine Reaktion von Anthropic kommt, ist überraschend.
Ich führe viele technische Interviews bei Big Tech und bin offen dafür, dass Kandidaten KI-Tools offen verwenden.
Ich weiß nicht, warum die meisten Unternehmen das verbieten. Man sollte es akzeptieren oder zumindest testweise in einem Pilotprogramm ausprobieren.
Die Ergebnisse würden sich wahrscheinlich nicht stark unterscheiden. Beim Coding zum Beispiel kann KI jemandem nicht an Ort und Stelle Programmieren oder Schlussfolgern beibringen, und der Zweck des Interviews war ohnehin nie nur, die richtige Antwort auf ein Coding-Puzzle zu liefern.
Für mich ist ein Interview ein Prozess, in dem ich sehe, wie ein Kandidat schlussfolgert, wie er kommuniziert und ob er die Grundlagen versteht — etwa Datenstrukturtheorie und Skalierbarkeit. Wenn jemand bei einem Puzzle einfach eine optimierte Lösung ohne Begründung oder Erklärung einfügt, besteht er das Interview nicht, egal ob die Quelle KI, Auswendiglernen oder Stack Overflow ist.
Wovor hat man also Angst? Dass man echte Kompetenz nicht mehr von kopierten KI-Ausgaben unterscheiden kann? Das halte ich nicht für realistisch.
Deshalb finde ich die Aussage „KI ist nicht erlaubt“ klarer. Als Interviewer möchte ich das Schlussfolgern, die Kommunikation und das Grundlagenverständnis des Kandidaten sehen; wenn er KI verwendet, wird schwer erkennbar, was von ihm selbst kommt und was von der KI.
Das heißt nicht, dass KI kein nützliches Tool wäre, sondern dass sie die Menge an Signal reduziert, die man aus dem Interview gewinnt. Und ohnehin gibt es die Annahme, dass die Personen, die besser performen, auch KI besser nutzen werden.
Jemand, der fragt: „Löse dieses Problem“, jemand, der fragt: „Was ist der Unterschied zwischen einem Array und einem Dictionary?“, und jemand, der fragt: „Welche Zeitkomplexität hat das Einfügen in eine Hashmap?“, sind jeweils unterschiedliche Fälle.
Solche Fragen liefern subtile Hinweise darauf, was der Kandidat weiß und wie er versucht, Problem und Lösung zu verstehen.
Anthropic hat das richtig gemacht. In der Branche gibt es derzeit zu viele Menschen, die Betrug mit KI rationalisieren.
Und wer sagt, es sei egal, ob man Bewerbungsunterlagen mit KI schreibt, versteht möglicherweise Folgendes nicht: Erstens haben Fragen in Bewerbungen manchmal tatsächlich einen Zweck. Zweitens können manche Menschen aus dem, was man wie sagt, ziemlich viel herauslesen.
Das vollständige Zitat lautet so, und die meisten Kommentare hier scheinen den ersten Teil auszulassen:
„Wir ermutigen Sie, KI-Systeme zu nutzen, um bei der Arbeit schneller und effektiver zu sein, bitten Sie aber, im Bewerbungsprozess keine KI-Assistenten zu verwenden. Wir möchten Ihr persönliches Interesse an Anthropic ohne Vermittlung durch KI-Systeme verstehen und auch Ihre Kommunikationsfähigkeit ohne KI-Unterstützung bewerten. Wenn Sie dies gelesen haben und zustimmen, markieren Sie bitte ‘Yes’.“
Die Ironie ist offensichtlich, aber interessant ist, dass Anthropic im Grunde verlangt, dass man nicht realistisch zeigt, wie man tatsächlich arbeiten würde.
Es fühlt sich ähnlich an, als würde man Entwickler bei einer Coding-Aufgabe bitten, nur Vim zu verwenden und nicht VS Code oder eine andere vollständige IDE.
Wenn man weiß, dass Mitarbeitende bei der Arbeit LLMs nutzen, und das sogar fördert, sollte man auch sehen wollen, wie gut sich Kandidaten unter denselben Bedingungen präsentieren.
Wenn ich an meine Studienzeit zurückdenke: Prüfungen bestanden alle daraus, 3–4 Stunden lang mit Stift auf Papier Code zu schreiben, oder aus Hausaufgaben, die 50 % der Endnote ausmachten. Bei den Hausaufgaben erwartete niemand, dass die Studierenden nur Stift und Papier verwenden.
Man durfte Bücher nutzen oder im Web nach Hilfe suchen, aber gefundenen Code ohne Quellenangabe zu kopieren war nicht erlaubt, und die Zusammenarbeit mit anderen war ebenfalls verboten.
Kürzlich wurde etwa in der Mitte eines Vorstellungsgesprächs sehr deutlich, dass der Kandidat KI nutzte
Das zeigte sich nur bei Standardfragen wie „Warum möchten Sie hier arbeiten?“. Als die Fragen in eine Form geändert wurden, bei der KI weniger gut helfen konnte, brach der Kandidat ein; seine Englischkenntnisse und seine allgemeine Schlussfolgerungsfähigkeit verschlechterten sich drastisch
Solche Fragen waren ursprünglich eingeführt worden, um zu prüfen, ob Kandidaten abstrakt denken können. Ein Beispiel wäre: „Was ist Ihre kreative Philosophie?“