26.05.2020
Mit fortschreitender künstlicher Intelligenz stellt sich zunehmend die Frage nach der Rolle des Menschen in dem Ganzen – insbesondere danach, wie weit dieser überhaupt noch die Zügel oder eher Drähte in der Hand hat. Denn einerseits soll KI autonome Entscheidungen treffen, andererseits soll stets der Mensch die Oberhand behalten.
Der Konflikt gibt vielen Forschern zu denken. Zudem ist auch die Frage nach der Ethik eine, bei der man KI kaum die Entscheidungshoheit überlassen kann.
Skepsis vs. Pragmatismus
Insbesondere im militärischen Bereich soll der Mensch immer „in the loop“ bleiben, also bestimmen, wann wo mit welchen Mitteln angegriffen wird. Allerdings gibt es Situationen, in der die Maschine in der besseren Entscheidungsposition ist. Unter anderem deswegen gibt es sie ja – damit sie dem Menschen zuarbeitet und ihm auch Entscheidungen abnimmt. Basierend darauf gibt es auch noch „on the loop“, wobei die Maschine zwar selbständig agiert, der Mensch sie aber dabei überwacht. Die Grenzen sind fließend, und genau das ist ein Problem.
Für einige Wissenschaftler liegt in dieser Tatsache ein Widerspruch. Die Maschinen seinen so konstruiert, dass sie bei einer erkenntnismäßig besseren Position als der Mensch sie in der Situation hat, eine Entscheidung fällen, auf die der Mensch dann vertrauen muss. Misstraut er ihnen aber grundsätzlich und will sie kontrollieren, muss man sich die Frage nach der Sinnhaftigkeit solcher Maschinen generell stellen. Das gilt nicht nur für den militärischen, sondern auch viele andere Bereiche wie zum Beispiel in der Medizin und Pflege sowie für autonome Fahrzeuge und im juristischen Bereich.
Menschen tendieren zur Kontrollabgabe
Dabei sind die Algorithmen, mit denen Maschinen zu Entscheidungen kommen schwer zu durchschauen, der Prozess oft eine Blackbox. Dennoch ergeben Untersuchungen, dass Menschen in dieser Hinsicht zum automatischen statt kontrollierten Denken tendieren und die Maschine zu wenig in Frage stellen. Skeptiker sehen auch vor allem innerhalb der Kommunikation mit den Maschinen untereinander ein Problem für die Handlungsfähigkeit des Menschen. Diesbezüglich wurde vom Marktforschungsinstitut Pew eine Studie durchgeführt. Dass der Mensch seine Entscheidungshoheit freiwillig im Austausch für mehr Bequemlichkeit abgibt, ist die Befürchtung der Kritiker. (tl)
