{'de': '

Wenn Fehler passieren, dann soll sich ein KI-System selbst abschalten. So hätten wir es gerne. Eine eingebaute Sollbruchstelle soll verhindern, dass fehlerhafte Systeme weiter in Betrieb sind. Was einleuchtend klingt, ist in der Praxis schwer umzusetzen. Denn was gilt überhaupt als Fehler und wie wird der erkannt? Etwa immer dann, wenn ein Mensch eventuell zu Schaden kommt? Oder schon, wenn potentiell ein Ding zu Bruch geht? Aber was könnten Maschinen dann überhaupt noch machen? Ein Knopf, auf den ein Mensch drückt, wenn etwas schief geht, ist schnell eingebaut. Aktuelle Systeme sind auch so aufgebaut, dass jederzeit der Mensch die Kontrolle übernehmen kann – sofern dies möglich ist. Bei schnellen Systemen, wie etwa automatisiertem Börsenhandel, kann der Mensch die vielen tausend Transaktionen pro Sekunde nicht mehr manuell bedienen. Das System muss anhalten. Anders ist es bei selbstfahrenden Autos. Wenn das autonome Auto von der Spur abkommt, übernimmt der menschliche Fahrer das Steuer und lenkt in die richtige Richtung. In KI-Systeme werden bereits und sollen auch künftig genau solche “Notfallknöpfe” eingebaut werden – sofern es möglich ist.

'}