Darf künstliche Intelligenz Tötungen billigend in Kauf nehmen ?
Verfasst: 1. Feb 2018, 16:07
Hallo zusammen,
vom Nachbarthread inspiriert frage ich mich, ob man AI-Anwendungen so programmieren darf, dass Tötungen billigend in Kauf genommen werden, oder ob das unter allen Umständen zu vermeiden ist.
Wir Menschen sind "böse", d.h. für ein menschliches Gehirn ist es – meist nach einer Gewöhnungszeit – durchaus akzeptabel, wenn beispielsweise pro Jahr im Schweizer Bahnverkehr 1.2 Todesopfer mehr zu beklagen sind, dafür aber die Sicherheitskosten um 2 Millionen Franken gesenkt werden können. Eine solche Diskussion hatte sich vor einigen Jahren aufgrund eines Unfalls im Bahnhof Zürich-Oerlikon ergeben, bei dem bei einer Streifkollision zweier Züge aufgrund eines Bremsenversagens eine Person tödlich verunglückt ist.
"Schuld" war wie üblich niemand; man hatte aus Kostengründen die mechanische Bremskontrolle vor Abfahrt des Zuges mit einer langen Eisenstange wegrationalisiert und diese durch einen Bremsentest seitens des Lokomotivführers kurz nach der Abfahrt ersetzt. Nun gab es aber das Problem, dass der Fahrplan im Zürcher Hauptbahnhof extrem dicht gedrängt ist, so dass man um Verspätungen zu vermeiden den Bremstest nicht bei der Ausfahrt tätigen wollte. Bis Oerlikon geht es dann stets etwas bergauf, so dass der obligatorische Bremstest nach der Durchfahrt des Bahnhofs Zürich Oerlikon durchzuführen war, doch ereignete sich der Unfall im Bahnhof Zürich Oerlikon. Eine typische "unglückliche" Verkettung von Umständen, die ein Todesopfer zur Folge hatte, das noch ein halbes Jahr zuvor in derselben Situation überlebt hätte.
Gab es anfangs noch einen Aufschrei der Empörung, so ist es längst akzeptiert, dass diese Bremsprobe erst nach Durchfahrt des Bahnhofs Zürich Oerlikon erfolgt und die wenigen Unfälle nimmt man eben billigend in Kauf.
Wie gesagt: wir Menschen sind "böse", und haben keine Skrupel bei einer klein erscheinenden erhöhten Todesrate pro Jahr.
Doch: dürfen Maschinen ebenfalls "böse", sein ? Ist es nicht vielmehr so, dass es wenig Aufwand benötigt, damit die Maschinen "gut" bleiben ?
Ja, dann gibt es eben Situationen, bei denen ein Wohngebiet mit 15 km/h statt den erlaubten 30 km/h durchfahren werden – es ist eine kleine Übungsaufgabe, einmal auszurechnen, um wieviel sich dadurch die Fahrzeit verlängert. Ja dann gibt es eben Situationen, in denen der Abstand zum vorfahrenden Auto doppelt so gross als gewohnt bleibt. Ja, dann gibt es eben Situationen, in denen das Auto nicht losfährt, weil irgendein Sicherheitskriterium noch nicht erfüllt ist. Oder eine Schnellbremsung eingeleitet wird, weil eine Kollisionsgefahr besteht.
Ist das schlimm ? Ist es das wert, dass dafür die Maschinen "gut" bleiben ?
Vielleicht müssen wir ein bisschen umdenken und Strassenanlagen künftig breiter bauen und die Parkplätze so konzipieren, dass hervorspringende Kinder besser sichtbar sind. Vielleicht müssen die Autos künftig sicherer gebaut werden, damit die Insassen noch besser geschützt sind. Ist das nicht mehr finanzierbar ?
Ich denke, hier gibt es noch sehr viel Potenzial. Gewiss, gewisse Abläufe werden dann etwas länger dauern, andererseits kann diese defensive Fahrweise samt zugehöriger Infrastruktur auch dazu beitragen, dass es weniger Staus gibt, was dann erneut Fahrzeiten verkürzt und sicherer macht.
Was meint Ihr ?
Freundliche Grüsse, Ralf
vom Nachbarthread inspiriert frage ich mich, ob man AI-Anwendungen so programmieren darf, dass Tötungen billigend in Kauf genommen werden, oder ob das unter allen Umständen zu vermeiden ist.
Wir Menschen sind "böse", d.h. für ein menschliches Gehirn ist es – meist nach einer Gewöhnungszeit – durchaus akzeptabel, wenn beispielsweise pro Jahr im Schweizer Bahnverkehr 1.2 Todesopfer mehr zu beklagen sind, dafür aber die Sicherheitskosten um 2 Millionen Franken gesenkt werden können. Eine solche Diskussion hatte sich vor einigen Jahren aufgrund eines Unfalls im Bahnhof Zürich-Oerlikon ergeben, bei dem bei einer Streifkollision zweier Züge aufgrund eines Bremsenversagens eine Person tödlich verunglückt ist.
"Schuld" war wie üblich niemand; man hatte aus Kostengründen die mechanische Bremskontrolle vor Abfahrt des Zuges mit einer langen Eisenstange wegrationalisiert und diese durch einen Bremsentest seitens des Lokomotivführers kurz nach der Abfahrt ersetzt. Nun gab es aber das Problem, dass der Fahrplan im Zürcher Hauptbahnhof extrem dicht gedrängt ist, so dass man um Verspätungen zu vermeiden den Bremstest nicht bei der Ausfahrt tätigen wollte. Bis Oerlikon geht es dann stets etwas bergauf, so dass der obligatorische Bremstest nach der Durchfahrt des Bahnhofs Zürich Oerlikon durchzuführen war, doch ereignete sich der Unfall im Bahnhof Zürich Oerlikon. Eine typische "unglückliche" Verkettung von Umständen, die ein Todesopfer zur Folge hatte, das noch ein halbes Jahr zuvor in derselben Situation überlebt hätte.
Gab es anfangs noch einen Aufschrei der Empörung, so ist es längst akzeptiert, dass diese Bremsprobe erst nach Durchfahrt des Bahnhofs Zürich Oerlikon erfolgt und die wenigen Unfälle nimmt man eben billigend in Kauf.
Wie gesagt: wir Menschen sind "böse", und haben keine Skrupel bei einer klein erscheinenden erhöhten Todesrate pro Jahr.
Doch: dürfen Maschinen ebenfalls "böse", sein ? Ist es nicht vielmehr so, dass es wenig Aufwand benötigt, damit die Maschinen "gut" bleiben ?
Ja, dann gibt es eben Situationen, bei denen ein Wohngebiet mit 15 km/h statt den erlaubten 30 km/h durchfahren werden – es ist eine kleine Übungsaufgabe, einmal auszurechnen, um wieviel sich dadurch die Fahrzeit verlängert. Ja dann gibt es eben Situationen, in denen der Abstand zum vorfahrenden Auto doppelt so gross als gewohnt bleibt. Ja, dann gibt es eben Situationen, in denen das Auto nicht losfährt, weil irgendein Sicherheitskriterium noch nicht erfüllt ist. Oder eine Schnellbremsung eingeleitet wird, weil eine Kollisionsgefahr besteht.
Ist das schlimm ? Ist es das wert, dass dafür die Maschinen "gut" bleiben ?
Vielleicht müssen wir ein bisschen umdenken und Strassenanlagen künftig breiter bauen und die Parkplätze so konzipieren, dass hervorspringende Kinder besser sichtbar sind. Vielleicht müssen die Autos künftig sicherer gebaut werden, damit die Insassen noch besser geschützt sind. Ist das nicht mehr finanzierbar ?
Ich denke, hier gibt es noch sehr viel Potenzial. Gewiss, gewisse Abläufe werden dann etwas länger dauern, andererseits kann diese defensive Fahrweise samt zugehöriger Infrastruktur auch dazu beitragen, dass es weniger Staus gibt, was dann erneut Fahrzeiten verkürzt und sicherer macht.
Was meint Ihr ?
Freundliche Grüsse, Ralf