Das Verteidigungsministerium versucht, ein Programm für künstliche Intelligenz zu schaffen, das Entscheidungen über Leben oder Tod auf dem Schlachtfeld treffen kann.
Das neue Programm namens In The Moment wird von der Defense Advanced Research Projects Agency (DARPA), dem Innovationszweig des Militärs, geleitet. Sein Ziel ist es, ein KI-Programm die schwierigen Entscheidungen treffen zu lassen, mit denen sich Militärstrategen regelmäßig auseinandersetzen müssen. (verbunden: US-Militär experimentiert mit künstlicher Intelligenz, die die Zukunft vorhersagen kann.)
DARPA möchte, dass In The Moment in Stresssituationen mithilfe von Algorithmen und Daten schnelle Entscheidungen trifft. Die Befürworter des KI-Programms glauben, dass die Beseitigung menschlicher Vorurteile Leben retten kann.
In den hypothetischen Situationen, von denen DARPA glaubt, dass In The Moment für den Einsatz geeignet wäre, könnten sich Militärkommandanten nicht einig darüber sein, was zu tun ist. Ein Szenario beinhaltet die Entscheidung, wer nach einem Massenunfall wie einem Terroranschlag vorrangig behandelt wird.
„Zwei erfahrene Militärführer, die zum Beispiel mit dem gleichen Szenario auf dem Schlachtfeld konfrontiert sind, können unterschiedliche taktische Entscheidungen treffen, wenn sie mit schwierigen Optionen konfrontiert werden„, schrieb DARPA in einer Pressemitteilung. „Da KI-Systeme in der Zusammenarbeit mit Menschen immer fortschrittlicher werden, ist es wichtig, angemessenes menschliches Vertrauen in die Fähigkeiten der KI aufzubauen, fundierte Entscheidungen zu treffen.“
DARPA erklärte, dass es unerlässlich ist, dass das In The Moment-Programm die Schlüsselmerkmale der menschlichen Entscheidungsfindung von Experten versteht, damit es einen Algorithmus für das KI-Programm richtig darstellt und darauf vertraut wird, dass er gute Entscheidungen trifft.
Während der Entwicklung des In The Moment will DARPA auch Entscheidungsträger-Charakterisierungstechniken entwickeln und eine quantitative Ausrichtungsbewertung zwischen einem Algorithmus und einem menschlichen Entscheidungsträger erstellen.
„Wir werden die Entscheidungen, die Antworten jedes dieser Entscheidungsträger sammeln und diese geblendet mehreren Triage-Profis präsentieren“, sagte Programmmanager Matt Turek. „Diese Triage-Profis werden nicht wissen, ob die Antwort von einem ausgerichteten Algorithmus oder einem Baseline-Algorithmus oder von einem Menschen stammt.“
Es bleiben Fragen offen, ob KI Macht über Leben und Tod erhalten sollte
Das In The Moment-Programm befindet sich noch in einem frühen Entwicklungsstadium. Aber die Schaffung des Programms kommt, da viele andere Länder herausfinden, wie moderne Technologien wie künstliche Intelligenz eingesetzt werden können, um veraltete militärische Systeme zu aktualisieren, wie das jahrhundertealte System der militärischen Triage, das anfällig für menschliches Versagen ist.
Aber Ethiker und KI-Experten sind besorgt darüber, solche Entscheidungen über Leben oder Tod in den Händen eines Maschinenprogramms zu lassen, und sie fragen sich, ob KI in solche Situationen involviert sein sollte.
„KI ist großartig darin, Dinge zu zählen“, sagte Sally Applin, Anthropologin, Forscherin und Expertin über die Schnittstelle zwischen Algorithmen, KI und Ethik. „Aber ich denke, es könnte einen Präzedenzfall schaffen, durch den die Entscheidung für das Leben eines Menschen in die Hände einer Maschine gelegt wird“.
Andere Ethiker sind besorgt darüber, wie das In The Moment-Programm funktionieren würde. Im Falle eines Programms, das Triage-Fragen löst, sind sie besorgt darüber, wie das Programm wählen würde, welche Soldaten für die Pflege gegenüber anderen priorisiert werden, und wer schuld wäre, wenn jemand, der hätte gerettet werden können, sowieso gestorben wäre.
Peter Asaro, ein Philosoph, der sich auf Robotik und künstliche Intelligenz an der New School spezialisiert hat, kommentierte, dass Militärbeamte entscheiden müssen, wie viel Verantwortung einem Algorithmus übertragen werden soll, der Entscheidungen über Triage trifft. Es muss auch herausfinden, wie man mit ethischen Situationen umgeht – z.B. darüber, wer vorrangig betreut wird.
„Das ist ein Werteaufruf“, sagte Asaro. „Das ist etwas, das man der Maschine sagen kann, um Prioritäten auf bestimmte Weise zu setzen, aber die Maschine wird das nicht herausfinden.“
Applin forderte auch zusätzliche Tests, um sicherzustellen, dass das neue Programm von DARPA nicht voreingenommene Entscheidungsprozesse in seinem Algorithmus aufrechterhält, die beispielsweise entscheiden könnten, dass weiße Patienten für Gesundheitsentscheidungen gegenüber schwarzen priorisiert werden sollten.
„Wir wissen, dass es Voreingenommenheit in der KI gibt. Wir wissen, dass Programmierer nicht jede Situation vorhersehen können. Wir wissen, dass KI nicht sozial ist. Wir wissen, dass KI nicht kulturell ist“, sagte Applin. „Es kann nicht über dieses Zeug nachdenken“, aber die Leute könnten diese Entscheidungen für das Programm unbewusst treffen, wenn sie seinen Algorithmus entwickeln.
MilitaryTechnology.news hat mehr Artikel über die neuesten Innovationen in der Militärtechnologie und künstlichen Intelligenz.
Sehen Sie sich dieses Video von „Anastasi in Tech“ an, während Gastgeber Anastasiia über die Zukunft der KI spricht.
Dieses Video stammt vom High Hopes-Kanal auf Brighteon.com.
Weitere verwandte Geschichten:
China setzt KILLER ROBOTS an seine umstrittene Grenze zu Indien ein.
Die französische Armee testet den Roboterhund von Boston Dynamics in Kampfszenarien.
Zu den Quellen gehören: