In einem am Montag veröffentlichten Essay beschreibt Dario Amodei die potenziellen Risiken, die entstehen könnten, wenn sich Künstliche Intelligenz (KI) ohne ausreichende Kontrollmaßnahmen weiterentwickelt. Von massiven Arbeitsplatzverlusten bis hin zu Bioterrorismus berichtet das Financial Times.

„Die Menschheit steht kurz davor, eine nahezu unvorstellbare Macht zu erhalten, und es ist zutiefst unklar, ob unsere sozialen, politischen und technologischen Systeme die notwendige Reife besitzen, um diese zu nutzen“, so Amodei in seinem Essay.

Der Essay ist eine eindringliche Warnung von einem der einflussreichsten Unternehmer in der KI-Branche, der der Meinung ist, dass die Sicherheitsvorkehrungen im Zusammenhang mit Künstlicher Intelligenz unzureichend sind.

Amodei thematisiert die Risiken, die sich mit dem Aufkommen von dem, was er „starken KI-Systemen“ nennt, verbinden. Diese Systeme wären „weit leistungsfähiger als jeder Nobelpreisträger“ und hält sie für wahrscheinlich in den nächsten „einigen Jahren“.

Zu den von dem CEO von Anthropic genannten Risiken gehört die Möglichkeit, dass Einzelpersonen biologische Waffen entwickeln, die in der Lage sind, Millionen von Menschen zu töten, oder im schlimmsten Fall sogar das gesamte Leben auf der Erde auszulöschen.

„Ein instabiler, einsamer Einzelner, der in einer Schule einen Amoklauf verüben kann, jedoch wahrscheinlich keine Nuklearwaffe bauen oder eine Pandemie auslösen kann, wird nun auf das Kompetenzniveau eines promovierten Virologen gehoben“, schreibt Amodei.

Er weist auch darauf hin, dass es möglich ist, dass Künstliche Intelligenz „außer Kontrolle gerät und die Menschheit beherrscht“ oder autoritäre Regime stärkt, was zu einer „globalen totalitären Diktatur“ führen könnte.

Amodei, dessen Unternehmen Anthropic der Hauptkonkurrent von OpenAI, dem Entwickler von ChatGPT, ist, hatte Konflikte mit David Sacks, dem Leiter der Administration von Präsident Donald Trump, über die Richtung der Regulierung in den USA.

In dem Essay warnt Amodei vor massiven Arbeitsplatzverlusten und einer „Konzentration von wirtschaftlicher Macht“ sowie Wohlstand im Silicon Valley als Folge der Künstlichen Intelligenz.

„Das ist die Falle: KI ist so mächtig, ein so strahlender Einsatz, dass es der menschlichen Zivilisation äußerst schwerfällt, irgendeine Form von Einschränkungen durchzusetzen“, fügt er hinzu.

Dario Amodei war einer der ersten Mitarbeiter von OpenAI, verließ das Unternehmen jedoch 2020, um Anthropic mit zu gründen, nach Differenzen mit Sam Altman über die Entwicklungsrichtung und Sicherheitsvorkehrungen der Künstlichen Intelligenz.