Roland Benedikter (Eurac Research) und Andreas Methner-Szigheth (unibz)

© Annelie Bortolotti

Lässt sich Zukunft vorhersagen? Wann wird Künstliche Intelligenz schlauer als wir Menschen sein? Warum braucht es eine menschenkonforme Maschine? Academia hat die beiden Soziologen Andreas Metzner-Szigeth (unibz) und Roland Benedikter (Eurac Research) zum Gespräch geladen.

Von der Verschmelzung von Mensch und Maschine erhoffen sich die einen den besseren, gesünderen und glücklicheren Menschen, andere wiederum warnen vor dem größten Risiko des 21. Jahrhunderts. Herr Benedikter, gehören sie zu den Optimisten oder Pessimisten?

Roland Benedikter: Um die kommenden Jahre zu verstehen, geht es weder um Optimismus noch um Pessimismus. Es geht um die Erkenntnis, dass es eine Welt geben wird, die jenseits von Gut und Böse ist. Diese Welt wird eine noch nie da gewesene Tiefenambivalenz als Kernmerkmal aufweisen, weil Mensch-Maschine-Interaktion in Mensch-Technologie-Konvergenz übergeht. Wir nennen das die „transhumanistische“ Herausforderung: eine Entwicklung „über den bisherigen Menschen hinaus“.

Da müssen Sie schon etwas konkreter werden?

Benedikter: Wir werden die Krebsheilung nicht kriegen können ohne Technologien, die den Menschen auch zum Monster umformen können. Das heißt, je mehr ich an Vorteilen auf der einen Seite gewinne, desto größer werden die Gefahren auf der anderen.

Herr Metzner-Szigeth, kann man denn Zukunft überhaupt noch vorhersagen?

Andreas Metzner-Szigeth: Zukunft lässt sich prinzipiell nicht vorhersagen. Wir können nur verschiedene Technik-Zukünfte darlegen, mögliche und wahrscheinliche, und darüber diskutieren, welche erwünscht sind, und welche nicht. Mehr geht nicht, denn wir wissen weder, welche Ereignisse die Zukunft in ihrem Verlauf bestimmen mögen, noch, welche Gestaltungsentscheidungen wir als Gesellschaft treffen werden.

Gestaltungsentscheidungen wie etwa den Einsatz von Pflegerobotern in China?

Benedikter: Ja. Und in China geht man auch schon weiter. Anfang November hat dort ein Roboter mit Künstlicher Intelligenz (KI) die Prüfung zum Medizin-Assistenten bestanden. Er wird nun auf dem Land eingesetzt, wo es einen Engpass an Pflegekräften gibt. Was bis vor kurzem wie Entertainment anmutete, hat heute eine Großindustrie hinter sich. Hanson Robotics hat große Summen Risikokapital gesammelt. Google investiert massiv in die KI: Im Spinoff Calico arbeiten Wissenschaftler aus den Bereichen Medizin, Molekularbiologie und Genetik mit dem Ziel, das Altern aufzuhalten und sogar rückgängig zu machen.

Herr Metzner-Szigeth würden Sie sich von einem Arztroboter behandeln lassen?

Metzner-Szigeth: Um Himmels willen, nein! Vor einigen Jahren habe ich in Karlsruhe einen Workshop über Technik-Zukünfte geleitet. Ein Kollege aus der Robotik hat von seinem aktuellen Forschungsprojekt berichtet: Ein Roboter sollte lernen, eine Geschirrspülmaschine einzuräumen. Selbst ein so profaner Vorgang ist eine hochkomplexe Koordination von Wahrnehmung und Handlung, die Maschinen noch lange nicht beherrschen.

Und doch hat die KI die Medizin heute schon revolutioniert.

Metzner-Szigeth: Natürlich. Nehmen wir etwa OP-Roboter, die den Chirurgen bei komplexen Eingriffen unterstützen. Das stelle ich auch nicht in Frage. Mir geht es darum, dass wir die beiden Begriffe - KI und die Bewusstseins-Begabung - nicht in einen Topf werfen. Maschinen werden nie in der Lage sein, menschliches Bewusstsein zu erlangen. Weder Arztroboter, noch Maschinen, die für militärische Zwecke eingesetzt werden. Es gibt derzeit eine große Debatte darüber, ob Militärdrohnen autonom entscheiden können, wen sie töten und wann, oder ob immer noch ein Mensch in letzter Instanz irgendwo einen Knopf drücken muss.

Benedikter: Die Ächtung von selbstentscheidenden Waffen ist fast schon vollzogen. Darin sehe ich nicht das Problem. Wie Sie richtig anmerken, ist die mögliche Bewusstseins-Entwicklung von Technik offen. KI wird aber, laut Ray Kurzweil von Google, in rund 30 Jahren zur Selbstreferenzialität in der Lage sein.

Das heißt?

Benedikter: KI wird sich auf sich selbst beziehen können – wie es Tiere übrigens auch in der Lage sind. KI entwickelt dann Lern- und Antizipationsfähigkeit. Das heißt, ihr erster Instinkt ist der Selbsterhalt, darauf aufbauend antizipiert KI mögliche Zukünfte. Wenn Superintelligenz also antizipativ wirkt, muss sie sich als erstes fragen: Wie kann ich mich selbst erhalten?, und zweitens: Wer kann den Stecker ziehen? Nur der Mensch. Als logische Folge könnte sie sich gegen den Menschen wenden.

Metzner-Szigeth: Stop. Die Autonomie technischen Fortschritts ist eine essentialistische Idee. Sie suggeriert, dass sich der Fortschritt unabhängig von menschlichen Gestaltungsvorgaben vollzieht. Das betrifft auch die Diskussion um die Gefahren von KI. Es geht doch um die Logik der Bedrohung, die wir der Technik sozusagen einschreiben. Allein schon die Tatsache, dass wir Robotern ein menschliches Antlitz verleihen, sie also nach dem Abbild des Menschen erschaffen wollen, sollte uns Zweifel aufgeben. Ist es nicht eher so, dass die größte Gefahr für den Menschen nach wie vor der Mensch ist? Wir sollten uns also besser fragen, ob wir nicht bei uns selber den Stecker ziehen müssen.

Sie würden also auf den technischen Fortschritt verzichten?

Metzner-Szigeth: Nein. Der ist irreversibel und wie Herr Benedikter schon gesagt hat, weder gut noch böse. Wenn wir uns heute rückblickend fragen, war die Industrialisierung für den Menschen gut oder schlecht, so werden wir sagen, weder noch, sondern beides zugleich. Und genauso wird es in Zukunft auch sein. Es wird irreversible Entwicklungen geben. Und zukünftige Generationen werden sie dann als solche beurteilen müssen. Das lässt sich nicht vorwegnehmen und ist nicht schematisch beurteilbar, schon gar nicht aus unserer heutigen Sicht heraus.

Benedikter: Vorsicht. In der Zeit, von der sie reden, war die Industrialisierung draußen, das menschliche Bewusstsein drinnen. Wenn aber nun Mensch und Maschine zunehmend verschmelzen und sich damit auch das Menschenbild grundlegend verändert, tun wir gut daran, vorausblickend zu handeln. Nicht umsonst haben Elon Musk und Bill Gates, zwei Vorreiter in Sachen KI, Stiftungen gegründet, die der Frage nachgehen: Wie kann Technik so weiterentwickelt werden, dass sie einerseits immer intelligenter wird, andererseits menschenkonform bleibt? Im neuen Bozner NOI Techpark werden auch solche grundlegenden Diskussionen geführt werden müssen.

Metzner-Szigeth: Da stimme ich Ihnen voll und ganz zu.

Related Articles

Article
Kontatto. Nasce il primo corpus di parlato autentico sudtirolese

Dal dizionario del dialetto della Val Passiria compilato dal linguista meranese Franz Lanthaler al riconoscimento vocale del sudtirolese con Siri, il passo è tutt’altro che breve. Li separano, più o meno, 150.000 parole e anni di ricerca. Ma il cammino ora è aperto, grazie alla creazione del primo corpus di parlato autentico bilingue. Il team di studiosi guidato da Silvia Dal Negro lo ha reso accessibile alla comunità scientifica internazionale.

Article
“Creiamo nuovi modelli matematici per capire meglio la disuguaglianza economica”

Un modello dinamico che permette di capire come funzionano lo scambio e la concentrazione di ricchezza in una data società. L’hanno inventato Maria Letizia Bertotti e Giovanni Modanese, rispettivamente matematica e fisico della Facoltà di Scienze e Tecnologie della Libera Università di Bolzano. L’ispirazione e il metodo sono stati forniti dallo studio del comportamento delle particelle dei gas in collisione tra di loro.

Interview
Attenti a quei nerd

L’ipotesi che il NOI si profili come la Silicon Valley nostrana c’è. Non per una vasta produzione di microchip a base di silicio, ma per la concentrazione di nerd che potrebbero circolarvi: giovani molto abili con le nuove tecnologie e totalmente assorbiti da esse. L’idea è quella di insediarvi una fabbrica di “dati intelligenti”. Dati, cioè, che servono a prendere decisioni che migliorano la vita delle persone. Academia ne parla con Diego Calvanese, docente ordinario e affermato ricercatore di logica computazionale, referente del progetto Smart Data Factory.

Article
Your comfort is their top priority!

unibz’s new Building Physics Lab at the NOI Techpark will be a hub for Andrea Gasparella and his team of researchers. Their study of the various materials, components and technologies used in the construction of buildings is contributing to our understanding of what makes people comfortable and how improving comfort improves efficiency.