Geoffrey Hinton fordert eine Aufsicht über KI und sagt, der Gesellschaft wäre es möglicherweise ohne ihre Entwicklung besser ergangen

Geoffrey Hinton warnte, der Gesellschaft wäre es möglicherweise besser ergangen, wenn sie künstliche Intelligenz nie entwickelt hätte. Zugleich sprach er sich dafür aus, die Technologie unabhängigen Sicherheitsprüfungen zu unterziehen, bevor Unternehmen neue Modelle veröffentlichen.

Im Gespräch mit The Guardian sagte Hinton, er sehe sich nicht als KI-Doomer und glaube, dass die Technologie zu positiven Ergebnissen führen könne. Zugleich warnte er jedoch, ihre Entwicklung könne schwerwiegende Folgen haben. „Möglicherweise wäre es uns besser ergangen, wenn wir sie nie entwickelt hätten“, sagte er.

Hinton schlug eine Aufsichtsbehörde ähnlich der US-amerikanischen Food and Drug Administration vor, die Medikamente reguliert. Nach seinem Vorschlag müssten KI-Unternehmen unabhängigen Behörden überzeugende statistische Belege dafür vorlegen, dass ein Modell mehr nützt als schadet, bevor es veröffentlicht wird.

Er kritisierte außerdem prominente Technologieunternehmer, darunter Mark Zuckerberg, Elon Musk und Sam Altman. Seiner Ansicht nach verstünden sie die Risiken der KI, gäben aber dem Geld Vorrang. Diese Äußerungen waren Hintons persönliche Einschätzung und keine im Interview durch Belege gestützte Behauptung.

Hinton hat bereits zuvor zwischen kurzfristigen Risiken, etwa dem Missbrauch von KI durch Menschen, und längerfristigen Bedenken unterschieden: Systeme könnten äußerst leistungsfähig werden und menschliche Beteiligung schließlich nicht mehr benötigen. In einem separaten Auftritt bei CNN sagte er, KI könnte eine echte Bedrohung für die Menschheit darstellen, wenn es Forschenden nicht gelinge, Wege zu finden, sie sicher zu machen.

Trotz dieser Warnungen sagte Hinton, er glaube, dass Menschen die Technologie möglicherweise weiterhin steuern können, sofern sie erhebliche Anstrengungen dafür unternehmen.

Quellen: Tom's Guide.