Die frühzeitige Programmierung autonomer Maschinen fördert die selbstlose Entscheidungsfindung

Kredit: CC0 Public Domain

Eine neue Studie legt nahe, dass der Einsatz autonomer Maschinen die Zusammenarbeit zwischen Individuen fördert.

Forscher des Army Research Laboratory des US Combat Capabilities Development Command, des Army Institute for Creative Technologies und der Northeastern University arbeiteten an einem in der Proceedings of the National Academy of Sciences.

Das Forschungsteam unter der Leitung von Dr. Celso de Melo, ARL, in Zusammenarbeit mit Drs. Jonathan Gratch, ICT, und Stacy Marsella, NU, führten eine Studie mit 1.225 Freiwilligen durch, die an computergestützten Experimenten mit einem sozialen Dilemma mit autonomen Fahrzeugen teilnahmen.

„Autonome Maschinen, die im Interesse des Menschen agieren – wie Roboter, Drohnen und autonome Fahrzeuge – werden schnell Realität und sollen auf dem Schlachtfeld der Zukunft eine immer wichtigere Rolle spielen“, sagte de Melo. „Menschen treffen eher selbstlose Entscheidungen zugunsten des kollektiven Interesses, wenn sie gebeten werden, autonome Maschinen im Voraus zu programmieren, als die Entscheidung in Echtzeit von Moment zu Moment zu treffen.“

De Melo sagte, dass trotz der Versprechungen höherer Effizienz nicht klar sei, ob dieser Paradigmenwechsel die Art und Weise ändern werde, wie Menschen entscheiden, wenn ihr Eigeninteresse dem kollektiven Interesse gegenübersteht.

“Sollte eine Erkennungsdrohne zum Beispiel der Sammlung von Informationen Priorität einräumen, die für die unmittelbaren Bedürfnisse des Trupps oder die Gesamtmission des Zuges relevant sind?” fragte de Melo. „Sollte ein Such- und Rettungsroboter die Zivilbevölkerung vor Ort priorisieren oder sich auf geschäftskritische Ressourcen konzentrieren?“

„Unsere Forschung in PNAS beginnt zu untersuchen, wie diese Transformationen menschliche Organisationen und Beziehungen verändern könnten”, sagte Gratch. “Unsere Erwartung, basierend auf einigen früheren Arbeiten zu menschlichen Vermittlern, war, dass KI-Vertreter die Menschen egoistischer machen und sich weniger um andere kümmern.”

In dem Papier zeigen die Ergebnisse, dass die Freiwilligen ihre autonomen Fahrzeuge so programmiert haben, dass sie sich kooperativer verhalten, als wenn sie selbst fahren würden. Den Beweisen zufolge geschieht dies, weil das Programmieren von Maschinen dazu führt, dass egoistische kurzfristige Belohnungen weniger auffallen, was zu Überlegungen über breitere gesellschaftliche Ziele führt.

“Wir waren von diesen Ergebnissen überrascht”, sagte Gratch. „Indem die Menschen im Voraus über ihre Entscheidungen nachdenken, zeigen sie tatsächlich mehr Wertschätzung für Kooperation und Fairness. Es ist, als ob die Menschen gezwungen wären, ihre Entscheidungen sorgfältig abzuwägen, um prosozialen Zielen mehr Gewicht zu verleihen. Wenn sie Entscheidungen von Moment zu Moment treffen, in Im Gegensatz dazu werden sie mehr von Eigeninteresse getrieben.”

Die Ergebnisse zeigen ferner, dass dieser Effekt in einer abstrakten Version des sozialen Dilemmas auftritt, was darauf hindeutet, dass er über den Bereich autonomer Fahrzeuge hinaus verallgemeinert wird.

„Die Entscheidung, wie autonome Maschinen in der Praxis programmiert werden sollen, wird wahrscheinlich auf mehrere Interessengruppen mit konkurrierenden Interessen verteilt, darunter Regierung, Hersteller und Controller“, sagte de Melo. “In moralischen Dilemmata zum Beispiel zeigt die Forschung, dass die Menschen die autonomen Fahrzeuge anderer Menschen bevorzugen würden, um die Erhaltung des Lebens zu maximieren (auch wenn dies bedeutete, den Fahrer zu opfern), während ihr eigenes Fahrzeug die Erhaltung des Lebens des Fahrers maximierte.”

Während diese Fragen diskutiert werden, ist es für Forscher wichtig zu verstehen, dass in dem möglicherweise häufigeren Fall sozialer Dilemmata攚 hier individuelles Interesse gegen kollektives Interesse ausgespielt wird擖a href=”https://techxplore.com/tags/autonomous+machines /” rel=”tag” class=”textTag”>autonome Maschinen haben das Potenzial, die Lösung der Dilemmata mitzugestalten, und damit haben diese Akteure die Möglichkeit, eine kooperativere Gesellschaft zu fördern.


Leave a Comment