14
JAN
2021

Superintelligente KI – Kann der Mensch ihr Herr bleiben?

by :
comment : 0

14.01.2021

Künstliche Intelligenz wird immer intelligenter und schon jetzt sind ihre Lernprozesse für den Menschen nicht mehr immer nachvollziehbar. Für ein internationales Forscherteam stellt sich unter anderem deswegen die Frage, ob superintelligente KI immer zum Wohle des Menschen handeln würde und ob sie überhaupt noch kontrollierbar wäre.

Unter anderem waren Wissenschaftler des Max-Planck-Instituts an diesen Berechnungen beteiligt.

Künstliche Grenzen für künstliche Intelligenz?

Die Forscher gingen von der Prämisse aus, dass eine KI programmiert wird, die intelligenter ist als der Mensch und selbständig alles lernen würde. Vor allem durch eine Verbindung zum Internet hätte die KI Zugriff auf das gesamte Wissen der Menschheit und könnte auf dieser Basis beispielsweise Krankheiten heilen. Sie könnte sich aber auch gegen die Menschheit wenden. Die Forscher gingen somit der Frage nach, ob sie davon abgehalten werden könnte. Hinzu kommt, dass die KI fähig wäre, alle ans Internet angeschlossenen Maschinen zu kontrollieren.

Vor allem zwei Ideen sind bisher zur Einschränkung von KI vorgebracht worden: Man könnte zum einen die Ressourcen der KI reduzieren, indem man ihr beispielsweise keinen Internetzugang gewährt oder ihre Kommunikationsfähigkeiten verringert. Dies würde allerdings die Kapazitäten der KI insgesamt einschränken, sodass sie nicht mehr superintelligent wäre. Zum anderen könnte man ihr ethische Regeln einprogrammieren, so dass sie nur im Sinne der Menschheit handelt. Dies ginge aber nur bis zu einem gewissen Grad.

Kontrolle einer superintelligenten KI kaum möglich

Um zu simulieren, ob der Mensch eine superintelligente KI kontrollieren könnte, entwickelten die Forscher einen Algorithmus, der die KI ununterbrochen überwacht und ihr Verhalten beziehungsweise ihre Entscheidungen auswertet. Aufgabe des Algorithmus wäre es, die Maschine zu stoppen, wenn ihr Verhalten sich schädlich auf den Menschen auszuwirken droht.

Nach derzeitigem Stand ist es allerdings nicht möglich, einen solchen Algorithmus zu programmieren, da er während des Prozesses selbst zum Stillstand kommen könnte. Auch wäre es für Menschen nicht unbedingt einfach zu erkennen, ob eine KI ihnen überlegen ist und kontrolliert werden muss. Der Mensch hätte demnach in Zukunft laut dieser Studie keine Kontrolle über superintelligente KI. (tl)