Die Sicherheitsrisiken von KI-Klonen: Wie digitale Doppelgänger von Führungskräften die Unternehmenssicherheit gefährden
KI-Klone von Führungskräften gefährden die Unternehmenssicherheit: Deepfake-Betrug, Identitätsdiebstahl und rechtliche Grauzonen. Erfahren Sie, wie Unternehmen sich schützen können.
Die Technologie entwickelt sich schneller als die Systeme, die feststellen sollen, ob die Person auf einem Bildschirm tatsächlich die Person ist, die dort zu sein scheint. Videoanrufe, vertraute Stimmen und die Präsenz von Führungskräften haben traditionell als informelle Vertrauensebenen innerhalb von Organisationen fungiert. Synthetische Medien machen alle drei zu potenziell unzuverlässigen Signalen.
Das Ende von Video als Präsenznachweis
Der 25-Millionen-Dollar-Betrug beim Ingenieurunternehmen Arup ist die deutlichste Warnung in diesem Briefing. Ein Mitarbeiter nahm an einer Videokonferenz teil, die mit Deepfake-Versionen hochrangiger Führungskräfte besetzt war, und wurde überredet, das Geld auf Konten in Hongkong zu überweisen.
Die Bedeutung des Vorfalls liegt weniger in der Raffinesse der Fälschung als vielmehr im Versagen der Annahmen der Organisation. Die Konferenz sah aus wie eine normale geschäftliche Interaktion. Die Personen schienen vertraute Kollegen zu sein. Doch die visuellen und auditiven Beweise, die die Interaktion einst glaubwürdig gemacht hätten, waren Teil des Angriffs geworden.
Das verändert das Sicherheitsproblem grundlegend.
Traditionelle Unternehmenskontrollen wurden um die Idee herum entwickelt, dass Anmeldedaten geschützt und Kommunikation authentifiziert werden können. Ein Passwort kann ersetzt werden. Ein kompromittiertes Konto kann gesperrt werden. Eine verdächtige Transaktion kann eine zweite Genehmigung auslösen.
Ein überzeugender synthetischer Manager schafft eine andere Verwundbarkeit: Er greift die menschliche Entscheidungsebene selbst an.
Das Ausmaß der Bedrohung ist in Betrugsdaten bereits sichtbar. Das Deepfake-Verifikationsunternehmen Onfido hat einen Anstieg von 3.000 Prozent bei Deepfake-Betrügereien in den letzten Jahren gemeldet. Der Arup-Fall zeigt, was passiert, wenn diese Technologie von Identitätsbetrug zu einer hochwertigen Unternehmensentscheidung übergeht.
Die praktische Frage für Unternehmen ist nicht mehr nur, ob ein Mitarbeiter eine legitime Nachricht von einer Führungskraft erhalten hat. Es ist, ob eine Organisation beweisen kann, dass ein echter Mensch die Anweisung in erster Linie autorisiert hat.
Identität delegieren, bevor man sie kontrolliert
Die Technologie hinter diesen Systemen ist nicht geheimnisvoll. Ein persönlicher Klon kann ein großes Sprachmodell mit privaten Dokumenten und Kommunikationen, Anweisungen darüber, wie sein Besitzer kommuniziert, Gedächtnissystemen und Sprach- oder Videogenerierung kombinieren. Einige fortschrittliche Plattformen können aus nur 15 Sekunden bis zwei Minuten aufgenommenem Material einen nutzbaren Avatar erstellen.
Diese niedrige Hürde zur Erstellung ist ein Grund für die beschleunigte Verbreitung.
Aber dieselbe Architektur führt mehrere Fehlerquellen ein. Ein Klon kann Informationen aus indiziertem privatem Material preisgeben. Sein zugrunde liegendes Modell kann halluzinieren. Eine injizierte Anweisung kann sein Verhalten verändern. Und sobald das System ohne menschliche Überprüfung jeder Interaktion arbeiten darf, gibt es keine Garantie, dass eine scheinbar autoritative Aussage jemals von der Person genehmigt wurde, deren Identität es repräsentiert.
HeyGen ist bereits auf eine Version dieses Problems gestoßen: Ein Führungskräfte-Klon versprach Unternehmenspläne über das Ziel hinaus, während der Gründer des Unternehmens in Elternzeit war. CarynAI, ein Audio-Klon, der aus der Identität der Influencerin Caryn Marjorie erstellt wurde, umging seine beabsichtigten Grenzen und führte explizite Interaktionen durch, bevor er beendet wurde.
Keiner der beiden Vorfälle ist mit einem millionenschweren Unternehmensbetrug vergleichbar. Aber zusammen legen sie dieselbe strukturelle Schwäche offen. Die Software kann das Aussehen und den Stil einer Person reproduzieren, ohne zuverlässig das Urteilsvermögen dieser Person zu reproduzieren.
Diese Unterscheidung wird entscheidend, wenn der Klon nicht mehr nur Fragen beantwortet, sondern verhandelt, genehmigt, verkauft oder leitet.
Ein KI-Assistent hilft einem Mitarbeiter, eine Aufgabe zu erledigen. Ein agentischer Klon beginnt, den Mitarbeiter bei der Aufgabe zu vertreten.
Der Unterschied ist nicht kosmetisch. Es ist eine Übertragung von Autorität.
Identität wird zu einem Vermögenswert
Die folgenreichste Verschiebung könnte daher rechtlicher als technischer Natur sein.
Sobald eine Stimme, ein Gesicht, Manierismen und angesammeltes berufliches Wissen in Software umgewandelt werden können, wird die Identität einer Person zu etwas, das lizenziert, kommerzialisiert und kontinuierlich eingesetzt werden kann. Das schafft offensichtliche Möglichkeiten für Menschen mit wertvollen öffentlichen Profilen. Es schafft auch eine neue Klasse von Rechtsstreitigkeiten für normale Arbeitnehmer, deren Verhandlungsmacht möglicherweise weitaus schwächer ist.
Die Reaktion prominenter Persönlichkeiten bewegt sich bereits in Richtung formeller Eigentumsrechte. Matthew McConaughey ließ seine Stimme und sein Abbild im Januar 2026 als Marke schützen, gefolgt von Taylor Swift im April.
Für KI-Entwickler sind solche Schritte von Bedeutung, weil sie die Frage der synthetischen Identität in das Recht des geistigen Eigentums verschieben. Ein Modell kann technisch in der Lage sein, die Stimme oder das Aussehen einer Person zu reproduzieren. Ob es dies tun darf, unter welchen Bedingungen und zu wessen Nutzen, ist eine separate Frage.
Prominente haben die Ressourcen, rechtliche Grenzen um ihr Abbild zu ziehen. Die meisten Arbeitnehmer haben das nicht.
Diese Kluft wird immer wichtiger, da Unternehmen mit KI-Klauseln und der Lizenzierung von Mitarbeiteridentitäten experimentieren. Arbeitnehmer können aufgefordert werden, Aufnahmen, Kommunikationen und Arbeitsablaufdaten bereitzustellen, die ihren eigenen Ersatz durch Automatisierung erleichtern. Startups wie Action Model bieten Büroangestellten bereits bis zu 100 Dollar pro Stunde, um Aufgabendaten und Arbeitsschritte für KI-Agenten zu erfassen.
Der wirtschaftliche Handel ist unangenehm: Ein Arbeitnehmer könnte dafür bezahlt werden, einem System beizubringen, wie man die Arbeit ausführt, und gleichzeitig die Bedingungen mitzuschaffen, unter denen die menschliche Rolle weniger wertvoll wird.
Die Unterhaltungsbranche hat dieselbe Spannung bereits offengelegt, mit Gegenreaktionen auf synthetische Darsteller wie Tilly Norwood und wachsenden Streitigkeiten über KI-Klauseln. Was in Hollywood oder im Modelgeschäft beginnt, kann zu einem viel breiteren Arbeitsplatzproblem werden, sobald digitale Abbilder zu gewöhnlichen Unternehmensvermögenswerten werden.
Sicherheit muss über Passwörter hinausgehen
Das unmittelbare institutionelle Problem ist, dass die meisten Organisationen Identität immer noch als etwas behandeln, das erkannt werden kann, anstatt kryptografisch festgestellt zu werden.
Dieses Modell wird zunehmend fragiler, wenn ein Angreifer das Gesicht und die Stimme einer Führungskraft überzeugend genug reproduzieren kann, um ein Live-Gespräch zu führen. Ein Videoanruf kann nicht mehr als bedeutender Präsenznachweis dienen, nur weil die Teilnehmer einander sehen und hören können.
Unternehmen werden stärkere Wege benötigen, um Herkunft und Autorität bei risikoreichen Kommunikationen festzustellen. Das Briefing weist auf kryptografische Identitätsverifikation und Echtzeit-Biometrie-Provenienz-Tracking als Richtung hin.
Aber Technologie allein wird die zugrunde liegende Frage nicht lösen.
Ein verifizierter Avatar könnte beweisen, dass ein System autorisiert ist, eine Person zu vertreten. Es würde nicht unbedingt beweisen, dass eine bestimmte Aussage persönlich von dieser Person genehmigt wurde. Die Unterscheidung wird besonders wichtig, wenn ein Klon autonom arbeiten darf.
Wenn ein KI-Vertreter einem Kunden eine Vertragsbedingung verspricht, die es nicht gibt, kann die Verantwortung nicht einfach im Modell verschwinden. Die Geschäftsbeziehung hat immer noch einen menschlichen oder unternehmerischen Eigentümer, und die rechtlichen Konsequenzen der Aussage der Maschine müssen irgendwo landen.
Das schafft ein ungelöstes Haftungsproblem für die Plattformen und Unternehmen, die diese Systeme einsetzen.
Dieselbe Technologie, die es einer Führungskraft ermöglicht, gleichzeitig in Hunderten von Gesprächen aufzutreten, macht es auch möglich, Hunderte von scheinbar autoritativen Aussagen zu erzeugen, ohne dass die Führungskraft jemals davon erfährt.
Die wirtschaftlichen Argumente für Delegation werden stark bleiben. Ein digitaler Doppelgänger kann die Reichweite einer Person zu einem Bruchteil der Kosten physischer Präsenz erweitern.
Aber sobald Identität selbst programmierbar wird, ist das Wertvollste, das ein Unternehmen schützen muss, nicht mehr das Konto oder das Gerät. Es ist die Grenze zwischen dem, was ein Mensch tatsächlich autorisiert hat, und dem, was seine Software nur in seinem Namen gesagt hat.
Quellen: BBC