Dario Amodei, CEO von Anthropic, hat sich für eine Verlangsamung der KI-Entwicklung ausgesprochen – vorausgesetzt, andere Unternehmen und Staaten ziehen mit. Zugleich baut Anthropic seine KI-Infrastruktur massiv aus.
Auch andere führende Köpfe der KI-Entwicklung warnen vor erheblichen Risiken. So sprach Sam Altman jüngst vor dem UN-Sicherheitsrat darüber, dass wir keine Modelle trainieren sollten, bei denen wir nicht mit hoher Sicherheit davon ausgehen können, dass sie unter menschlicher Kontrolle bleiben. Geoffrey Hinton wiederum verließ Google, um öffentlich vor den Risiken der Technologie warnen zu können.
Arthur Mensch, Gründer des europäischen KI-Unternehmens Mistral, widerspricht dieser Sicht deutlich. „Es gibt kein Doom-Szenario“, sagt er gerade erst der Süddeutschen Zeitung. KI sei Software und als solche kontrollierbar.
Dieselbe technologische Entwicklung. Sehr unterschiedliche Einschätzungen ihrer Risiken. Dass darüber öffentlich gestritten wird, ist wichtig.
Aber greift diese Risikodebatte nicht zu kurz?
KI verändert nicht nur, was Menschen und Maschinen können. Sie verändert auch die Bedingungen, unter denen Menschen urteilen, entscheiden und Verantwortung übernehmen.
Was bedeutet menschliches Urteilen, wenn Maschinen immer häufiger Empfehlungen geben oder Entscheidungen vorbereiten? Und was geschieht mit unserem Verständnis von Verantwortung, wenn wir Entscheidungen an Systeme delegieren?
„Being Human in the Age of AI“ ist der Wissenschaftsschwerpunkt, dem wir als Stiftung und damit auch ein Teil der von uns geförderten Projekte nachgehen. Denn wir wollen besser verstehen, wie KI nicht nur unsere Welt, sondern uns als Menschen verändert, und was es heißt, Mensch zu sein in diesem Spannungsfeld.
Werde Teil unseres Netzwerks und folge uns auf für regelmäßige Einblicke in unsere Arbeit und Infos zu aktuellen Veranstaltungen.