Anthropic-Chef fordert langsamere KI-Entwicklung wegen Sicherheitsbedenken
Anthropic-Chef Dario Amodei fordert eine Verlangsamung der KI-Entwicklung, um aufkommende Sicherheitsrisiken besser bewältigen zu können.
Dario Amodei, Vorstandsvorsitzender des Unternehmens für künstliche Intelligenz Anthropic, hat Entwickler dazu aufgerufen, das Tempo bei der Entwicklung neuer Frontier-KI-Modelle zu verlangsamen. In einem online veröffentlichten Essay argumentierte Amodei, eine bewusste Verlangsamung würde es der Branche ermöglichen, aufkommende Risiken im Zusammenhang mit fortschrittlicher Technologie besser zu adressieren.
Die Warnung folgt auf einen kürzlich veröffentlichten Bericht von Anthropic, der zeigt, dass das KI-Modell des Unternehmens, Claude, Ziel bösartiger Aktivitäten war, darunter Versuche, bei der Waffenentwicklung und der Programmierung von Raketen zu helfen. Das Unternehmen sah sich in dieser Woche zudem mit internen Unruhen konfrontiert, nachdem der Forscher Jacob Coxon aus Protest gegen Sicherheitsbedenken zurückgetreten war. Amodei warnte, dass ein Scheitern bei der Verlangsamung des Fortschritts in den kommenden Monaten zu schwerwiegenden Konsequenzen führen könnte.
Quellen: Aftenposten, NRK, TV 2 Nyheter