Kaliforniens Gouverneur schreibt Sicherheitskontrollen für KI-Labore vor

Kaliforniens Gouverneur Gavin Newsom hat staatliche Regulierungsbehörden und Technologieführer angewiesen, Sicherheitsrisiken im Bereich der künstlichen Intelligenz anzugehen, mit Schwerpunkt auf möglichen Notabschaltmechanismen für fortgeschrittene Modelle. Die Initiative zielt darauf ab, Sicherheitsrichtlinien für leistungsfähige Systeme festzulegen, die im Bundesstaat entwickelt werden, und dabei technische Innovation mit öffentlicher Aufsicht in Einklang zu bringen.

Im Rahmen des Konzepts könnten Entwickler verpflichtet werden, Protokollkontrollen einzuführen, die in der Lage sind, den Betrieb zu stoppen, falls ein fortgeschrittenes Modell katastrophale Risiken birgt oder Sicherheitsstandards verletzt. Der Schritt erfolgt vor dem Hintergrund breiterer nationaler Debatten über die regulatorische Aufsicht in dem schnell wachsenden Sektor der künstlichen Intelligenz. Vertreter der Branche und Rechtsexperten prüfen weiterhin, wie sich diese Vorgaben auf Forschung und kommerziellen Einsatz bei großen Technologieunternehmen auswirken werden.

Quellen: Bloomberg