Roland Benedikter (Eurac Research) und Andreas Methner-Szigheth (unibz)

© Annelie Bortolotti

Lässt sich Zukunft vorhersagen? Wann wird Künstliche Intelligenz schlauer als wir Menschen sein? Warum braucht es eine menschenkonforme Maschine? Academia hat die beiden Soziologen Andreas Metzner-Szigeth (unibz) und Roland Benedikter (Eurac Research) zum Gespräch geladen.

Von der Verschmelzung von Mensch und Maschine erhoffen sich die einen den besseren, gesünderen und glücklicheren Menschen, andere wiederum warnen vor dem größten Risiko des 21. Jahrhunderts. Herr Benedikter, gehören sie zu den Optimisten oder Pessimisten?

Roland Benedikter: Um die kommenden Jahre zu verstehen, geht es weder um Optimismus noch um Pessimismus. Es geht um die Erkenntnis, dass es eine Welt geben wird, die jenseits von Gut und Böse ist. Diese Welt wird eine noch nie da gewesene Tiefenambivalenz als Kernmerkmal aufweisen, weil Mensch-Maschine-Interaktion in Mensch-Technologie-Konvergenz übergeht. Wir nennen das die „transhumanistische“ Herausforderung: eine Entwicklung „über den bisherigen Menschen hinaus“.

Da müssen Sie schon etwas konkreter werden?

Benedikter: Wir werden die Krebsheilung nicht kriegen können ohne Technologien, die den Menschen auch zum Monster umformen können. Das heißt, je mehr ich an Vorteilen auf der einen Seite gewinne, desto größer werden die Gefahren auf der anderen.

Herr Metzner-Szigeth, kann man denn Zukunft überhaupt noch vorhersagen?

Andreas Metzner-Szigeth: Zukunft lässt sich prinzipiell nicht vorhersagen. Wir können nur verschiedene Technik-Zukünfte darlegen, mögliche und wahrscheinliche, und darüber diskutieren, welche erwünscht sind, und welche nicht. Mehr geht nicht, denn wir wissen weder, welche Ereignisse die Zukunft in ihrem Verlauf bestimmen mögen, noch, welche Gestaltungsentscheidungen wir als Gesellschaft treffen werden.

Gestaltungsentscheidungen wie etwa den Einsatz von Pflegerobotern in China?

Benedikter: Ja. Und in China geht man auch schon weiter. Anfang November hat dort ein Roboter mit Künstlicher Intelligenz (KI) die Prüfung zum Medizin-Assistenten bestanden. Er wird nun auf dem Land eingesetzt, wo es einen Engpass an Pflegekräften gibt. Was bis vor kurzem wie Entertainment anmutete, hat heute eine Großindustrie hinter sich. Hanson Robotics hat große Summen Risikokapital gesammelt. Google investiert massiv in die KI: Im Spinoff Calico arbeiten Wissenschaftler aus den Bereichen Medizin, Molekularbiologie und Genetik mit dem Ziel, das Altern aufzuhalten und sogar rückgängig zu machen.

Herr Metzner-Szigeth würden Sie sich von einem Arztroboter behandeln lassen?

Metzner-Szigeth: Um Himmels willen, nein! Vor einigen Jahren habe ich in Karlsruhe einen Workshop über Technik-Zukünfte geleitet. Ein Kollege aus der Robotik hat von seinem aktuellen Forschungsprojekt berichtet: Ein Roboter sollte lernen, eine Geschirrspülmaschine einzuräumen. Selbst ein so profaner Vorgang ist eine hochkomplexe Koordination von Wahrnehmung und Handlung, die Maschinen noch lange nicht beherrschen.

Und doch hat die KI die Medizin heute schon revolutioniert.

Metzner-Szigeth: Natürlich. Nehmen wir etwa OP-Roboter, die den Chirurgen bei komplexen Eingriffen unterstützen. Das stelle ich auch nicht in Frage. Mir geht es darum, dass wir die beiden Begriffe - KI und die Bewusstseins-Begabung - nicht in einen Topf werfen. Maschinen werden nie in der Lage sein, menschliches Bewusstsein zu erlangen. Weder Arztroboter, noch Maschinen, die für militärische Zwecke eingesetzt werden. Es gibt derzeit eine große Debatte darüber, ob Militärdrohnen autonom entscheiden können, wen sie töten und wann, oder ob immer noch ein Mensch in letzter Instanz irgendwo einen Knopf drücken muss.

Benedikter: Die Ächtung von selbstentscheidenden Waffen ist fast schon vollzogen. Darin sehe ich nicht das Problem. Wie Sie richtig anmerken, ist die mögliche Bewusstseins-Entwicklung von Technik offen. KI wird aber, laut Ray Kurzweil von Google, in rund 30 Jahren zur Selbstreferenzialität in der Lage sein.

Das heißt?

Benedikter: KI wird sich auf sich selbst beziehen können – wie es Tiere übrigens auch in der Lage sind. KI entwickelt dann Lern- und Antizipationsfähigkeit. Das heißt, ihr erster Instinkt ist der Selbsterhalt, darauf aufbauend antizipiert KI mögliche Zukünfte. Wenn Superintelligenz also antizipativ wirkt, muss sie sich als erstes fragen: Wie kann ich mich selbst erhalten?, und zweitens: Wer kann den Stecker ziehen? Nur der Mensch. Als logische Folge könnte sie sich gegen den Menschen wenden.

Metzner-Szigeth: Stop. Die Autonomie technischen Fortschritts ist eine essentialistische Idee. Sie suggeriert, dass sich der Fortschritt unabhängig von menschlichen Gestaltungsvorgaben vollzieht. Das betrifft auch die Diskussion um die Gefahren von KI. Es geht doch um die Logik der Bedrohung, die wir der Technik sozusagen einschreiben. Allein schon die Tatsache, dass wir Robotern ein menschliches Antlitz verleihen, sie also nach dem Abbild des Menschen erschaffen wollen, sollte uns Zweifel aufgeben. Ist es nicht eher so, dass die größte Gefahr für den Menschen nach wie vor der Mensch ist? Wir sollten uns also besser fragen, ob wir nicht bei uns selber den Stecker ziehen müssen.

Sie würden also auf den technischen Fortschritt verzichten?

Metzner-Szigeth: Nein. Der ist irreversibel und wie Herr Benedikter schon gesagt hat, weder gut noch böse. Wenn wir uns heute rückblickend fragen, war die Industrialisierung für den Menschen gut oder schlecht, so werden wir sagen, weder noch, sondern beides zugleich. Und genauso wird es in Zukunft auch sein. Es wird irreversible Entwicklungen geben. Und zukünftige Generationen werden sie dann als solche beurteilen müssen. Das lässt sich nicht vorwegnehmen und ist nicht schematisch beurteilbar, schon gar nicht aus unserer heutigen Sicht heraus.

Benedikter: Vorsicht. In der Zeit, von der sie reden, war die Industrialisierung draußen, das menschliche Bewusstsein drinnen. Wenn aber nun Mensch und Maschine zunehmend verschmelzen und sich damit auch das Menschenbild grundlegend verändert, tun wir gut daran, vorausblickend zu handeln. Nicht umsonst haben Elon Musk und Bill Gates, zwei Vorreiter in Sachen KI, Stiftungen gegründet, die der Frage nachgehen: Wie kann Technik so weiterentwickelt werden, dass sie einerseits immer intelligenter wird, andererseits menschenkonform bleibt? Im neuen Bozner NOI Techpark werden auch solche grundlegenden Diskussionen geführt werden müssen.

Metzner-Szigeth: Da stimme ich Ihnen voll und ganz zu.

Related Articles

Interview
“Big data e intelligenza artificiale: dobbiamo creare tecnologie che ci aiutino davvero!”

Ripensare l’uso dei big data e il nostro approccio all’intelligenza artificiale, abbandonando qualsiasi atteggiamento fideistico per privilegiare un approccio critico e lo sviluppo di soluzioni tecnologiche più aderenti ai veri bisogni degli utenti. È la ricetta di Francesco Ricci, preside della Facoltà di Scienze e Tecnologie informatiche, e di Thomas Streifeneder, direttore dell’Istituto per lo sviluppo regionale di Eurac Research. Nella conversazione con Ricci e Streifeneder è emerso un chiaro suggerimento: dobbiamo imparare dagli scandali che, recentemente, hanno fatto tremare i colossi come facebook, e comportarci in maniera più critica e consapevole. Ciò che ognuno di noi deve imparare è guardare alle nuove tecnologie non con sospetto, ma nella giusta prospettiva: come mezzi cioè che possono, se impiegati con consapevolezza, migliorare molti ambiti della nostra vita quotidiana, dal lavoro alla salute, dall’istruzione allo svago.

Article
Dalla California alla Val di Fassa per documentare il ladino

Un gruppo di studenti della University of Southern California, seguiti dal ricercatore Alessandro Vietti, sta applicando innovativi strumenti computazionali allo studio delle lingue minoritarie e in via di estinzione.

Article
Dagli scarti della mela risorse per l’industria alimentare

Antiossidanti naturali ricavati con una tecnologia innovativa, grazie all’uso di anidride carbonica supercritica e di scarti della lavorazione delle mele. È il frutto della ricerca svolta dal team di Matteo Scampicchio, professore di Tecnologie alimentari, nei laboratori al NOI, il Parco tecnologico di Bolzano.

Interview
Das Andere als der Schlüssel zu sich selbst

Wenn Wissenschaftskonferenz und Wirtschaftsfaktor zusammenspielen: ein Gespräch mit Prof. Edwin Keiner, der in der ersten Septemberwoche den Kongress der Erziehungswissenschaftler mit über 2.500 Teilnehmern an die Uni Bozen holen wird. Eine Bestandsaufnahme.