Was, wenn niemand weiß, warum Ihre KI so etwas gesagt hat? (Blackbox-Phänomen und XAI)

Wir täuschen uns. Wir glauben, dass Entwickler die KI vollständig verstanden und entsprechend programmiert haben. Das ist nicht so. Entwickler haben nur die „Struktur“ entworfen, wissen aber nicht, was darin tatsächlich geschieht. Ich erkläre es Ihnen auf leicht verständliche Weise.