Die Supermarktkette Pak’n’Save aus Neuseeland hatte vor, ihren Kunden Rezepte von einer KI generieren zu lassen. Mit Zutaten die man noch da hat, eben um sie noch zu verwerten, nicht extra einkaufen zu müssen oder unnötig Lebensmittel zu entsorgen. So weit der erstmal gute Gedanke.
Wenn Benutzer von KIs eins sind, ist es allerdings neugierig. So wunderte man sich anfangs darüber, dass die KI recht seltsame Dinge wie eine Oreo-Gemüse-Pfanne vorgeschlagen hat. Das ergab dann, dass die Benutzer (für die KI unerwartete) Zutaten hinzufügten und so wurde aus Bleiche und Ammoniak ein „Aromatischer Wassermix“. Dass diese beiden Zutaten schädliches Chlorgas bilden, war der KI egal.
Die Supermarktkette hatte schlicht und einfach vergessen, die entsprechenden Eingaben für die Zutaten zu begrenzen und damit gewisse (gefährliche oder sinnlose) Dinge auszuschließen. Somit kam dann auch irgendwann ein „mysteriöser Fleischauflauf“ dabei heraus, der Menschenfleisch beinhaltet:
Die Supermarktkette plant, die KI anzupassen.
Guten Appetit! 🍝