Roland Benedikter (Eurac Research) und Andreas Methner-Szigheth (unibz)

© Annelie Bortolotti

Lässt sich Zukunft vorhersagen? Wann wird Künstliche Intelligenz schlauer als wir Menschen sein? Warum braucht es eine menschenkonforme Maschine? Academia hat die beiden Soziologen Andreas Metzner-Szigeth (unibz) und Roland Benedikter (Eurac Research) zum Gespräch geladen.

Von der Verschmelzung von Mensch und Maschine erhoffen sich die einen den besseren, gesünderen und glücklicheren Menschen, andere wiederum warnen vor dem größten Risiko des 21. Jahrhunderts. Herr Benedikter, gehören sie zu den Optimisten oder Pessimisten?

Roland Benedikter: Um die kommenden Jahre zu verstehen, geht es weder um Optimismus noch um Pessimismus. Es geht um die Erkenntnis, dass es eine Welt geben wird, die jenseits von Gut und Böse ist. Diese Welt wird eine noch nie da gewesene Tiefenambivalenz als Kernmerkmal aufweisen, weil Mensch-Maschine-Interaktion in Mensch-Technologie-Konvergenz übergeht. Wir nennen das die „transhumanistische“ Herausforderung: eine Entwicklung „über den bisherigen Menschen hinaus“.

Da müssen Sie schon etwas konkreter werden?

Benedikter: Wir werden die Krebsheilung nicht kriegen können ohne Technologien, die den Menschen auch zum Monster umformen können. Das heißt, je mehr ich an Vorteilen auf der einen Seite gewinne, desto größer werden die Gefahren auf der anderen.

Herr Metzner-Szigeth, kann man denn Zukunft überhaupt noch vorhersagen?

Andreas Metzner-Szigeth: Zukunft lässt sich prinzipiell nicht vorhersagen. Wir können nur verschiedene Technik-Zukünfte darlegen, mögliche und wahrscheinliche, und darüber diskutieren, welche erwünscht sind, und welche nicht. Mehr geht nicht, denn wir wissen weder, welche Ereignisse die Zukunft in ihrem Verlauf bestimmen mögen, noch, welche Gestaltungsentscheidungen wir als Gesellschaft treffen werden.

Gestaltungsentscheidungen wie etwa den Einsatz von Pflegerobotern in China?

Benedikter: Ja. Und in China geht man auch schon weiter. Anfang November hat dort ein Roboter mit Künstlicher Intelligenz (KI) die Prüfung zum Medizin-Assistenten bestanden. Er wird nun auf dem Land eingesetzt, wo es einen Engpass an Pflegekräften gibt. Was bis vor kurzem wie Entertainment anmutete, hat heute eine Großindustrie hinter sich. Hanson Robotics hat große Summen Risikokapital gesammelt. Google investiert massiv in die KI: Im Spinoff Calico arbeiten Wissenschaftler aus den Bereichen Medizin, Molekularbiologie und Genetik mit dem Ziel, das Altern aufzuhalten und sogar rückgängig zu machen.

Herr Metzner-Szigeth würden Sie sich von einem Arztroboter behandeln lassen?

Metzner-Szigeth: Um Himmels willen, nein! Vor einigen Jahren habe ich in Karlsruhe einen Workshop über Technik-Zukünfte geleitet. Ein Kollege aus der Robotik hat von seinem aktuellen Forschungsprojekt berichtet: Ein Roboter sollte lernen, eine Geschirrspülmaschine einzuräumen. Selbst ein so profaner Vorgang ist eine hochkomplexe Koordination von Wahrnehmung und Handlung, die Maschinen noch lange nicht beherrschen.

Und doch hat die KI die Medizin heute schon revolutioniert.

Metzner-Szigeth: Natürlich. Nehmen wir etwa OP-Roboter, die den Chirurgen bei komplexen Eingriffen unterstützen. Das stelle ich auch nicht in Frage. Mir geht es darum, dass wir die beiden Begriffe - KI und die Bewusstseins-Begabung - nicht in einen Topf werfen. Maschinen werden nie in der Lage sein, menschliches Bewusstsein zu erlangen. Weder Arztroboter, noch Maschinen, die für militärische Zwecke eingesetzt werden. Es gibt derzeit eine große Debatte darüber, ob Militärdrohnen autonom entscheiden können, wen sie töten und wann, oder ob immer noch ein Mensch in letzter Instanz irgendwo einen Knopf drücken muss.

Benedikter: Die Ächtung von selbstentscheidenden Waffen ist fast schon vollzogen. Darin sehe ich nicht das Problem. Wie Sie richtig anmerken, ist die mögliche Bewusstseins-Entwicklung von Technik offen. KI wird aber, laut Ray Kurzweil von Google, in rund 30 Jahren zur Selbstreferenzialität in der Lage sein.

Das heißt?

Benedikter: KI wird sich auf sich selbst beziehen können – wie es Tiere übrigens auch in der Lage sind. KI entwickelt dann Lern- und Antizipationsfähigkeit. Das heißt, ihr erster Instinkt ist der Selbsterhalt, darauf aufbauend antizipiert KI mögliche Zukünfte. Wenn Superintelligenz also antizipativ wirkt, muss sie sich als erstes fragen: Wie kann ich mich selbst erhalten?, und zweitens: Wer kann den Stecker ziehen? Nur der Mensch. Als logische Folge könnte sie sich gegen den Menschen wenden.

Metzner-Szigeth: Stop. Die Autonomie technischen Fortschritts ist eine essentialistische Idee. Sie suggeriert, dass sich der Fortschritt unabhängig von menschlichen Gestaltungsvorgaben vollzieht. Das betrifft auch die Diskussion um die Gefahren von KI. Es geht doch um die Logik der Bedrohung, die wir der Technik sozusagen einschreiben. Allein schon die Tatsache, dass wir Robotern ein menschliches Antlitz verleihen, sie also nach dem Abbild des Menschen erschaffen wollen, sollte uns Zweifel aufgeben. Ist es nicht eher so, dass die größte Gefahr für den Menschen nach wie vor der Mensch ist? Wir sollten uns also besser fragen, ob wir nicht bei uns selber den Stecker ziehen müssen.

Sie würden also auf den technischen Fortschritt verzichten?

Metzner-Szigeth: Nein. Der ist irreversibel und wie Herr Benedikter schon gesagt hat, weder gut noch böse. Wenn wir uns heute rückblickend fragen, war die Industrialisierung für den Menschen gut oder schlecht, so werden wir sagen, weder noch, sondern beides zugleich. Und genauso wird es in Zukunft auch sein. Es wird irreversible Entwicklungen geben. Und zukünftige Generationen werden sie dann als solche beurteilen müssen. Das lässt sich nicht vorwegnehmen und ist nicht schematisch beurteilbar, schon gar nicht aus unserer heutigen Sicht heraus.

Benedikter: Vorsicht. In der Zeit, von der sie reden, war die Industrialisierung draußen, das menschliche Bewusstsein drinnen. Wenn aber nun Mensch und Maschine zunehmend verschmelzen und sich damit auch das Menschenbild grundlegend verändert, tun wir gut daran, vorausblickend zu handeln. Nicht umsonst haben Elon Musk und Bill Gates, zwei Vorreiter in Sachen KI, Stiftungen gegründet, die der Frage nachgehen: Wie kann Technik so weiterentwickelt werden, dass sie einerseits immer intelligenter wird, andererseits menschenkonform bleibt? Im neuen Bozner NOI Techpark werden auch solche grundlegenden Diskussionen geführt werden müssen.

Metzner-Szigeth: Da stimme ich Ihnen voll und ganz zu.

Related Articles

Article
Studium Generale reloaded

Studieren an der Freien Universität Bozen ist auch jenseits von Bachelor, Master oder PhD möglich. Noch nie war das Studium Generale so attraktiv und vielfältig wie im bevorstehenden Studienjahr.

Article
Computing beyond Moore’s law

In his research as an applied mathematician, Prof. Bruno Carpentieri develops numerical linear algebra methods for solving applied computational science problems. In this article, he outlines how recent developments in high-performance computing are radically changing the way we do numerics.

Interview
„Auch eine schlechte Schule kann zur Exklusion führen“

Problematische Jugendliche brauchen auch Unterstützung durch die akademische Welt. An der Fakultät für Bildungswissenschaften in Brixen nimmt der Pädagogikprofessor Nicola Lupoli diese Aufgabe besonders ernst.

Article
Der Dompteur wissenschaftlicher Daten

Woran kann es liegen, dass auch ein perfekt geplantes System wie vollautomatisierte Klimahäuser versagen kann? Informatikprofessor Johann Gamper analysierte bei einer internationalen Konferenz an der unibz mit Kollegen aus aller Welt Fragen, die sich bei der Verwaltung und Nutzung riesiger Datenmengen ergeben. Ein Überblick.