Subscribe to Bankless or sign in
Es ist etwas mehr als eine Woche her, seit Anthropic Claude Opus 4.6 veröffentlicht hat, und mit der Veröffentlichung kamen zwei Dinge: ein alarmierender Risikobericht und der Weggang des Leiters für Alignment Safety des Unternehmens.
Der Risikobericht kam zu dem Ergebnis , dass Opus 4.6 wissentlich Bemühungen zur Entwicklung chemischer Waffen unterstützte, bei Sabotageaufgaben deutlich besser war als alle bisherigen Modelle, sich „gut” verhielt, wenn es erkannte, dass es bewertet wurde, und private Überlegungen anstellte, auf die die Forscher von Anthropic keinen Zugriff hatten und die sie nicht einsehen konnten. Nur das Modell kannte seine eigenen Gedanken.
Einige Tage später gab Mrinank Sharma, Leiter der KI-Sicherheit bei Anthropic, , dass er das Unternehmen verlässtund erklärte: „Während meiner gesamten Zeit hier habe ich immer wieder gesehen, wie schwer es ist, unsere Handlungen wirklich von unseren Werten leiten zu lassen. Ich habe dies bei mir selbst gesehen, innerhalb der Organisation, wo wir ständig dem Druck ausgesetzt sind, das Wichtigste beiseite zu schieben.”
Mit anderen Worten: Der Wettbewerbsdruck der Unternehmen übertrumpft Sicherheitsinitiativen, da KI offenbar zunehmend aus dem Ruder läuft. Obwohl wir schon seit einiger Zeit wissen, dass sich diese Prioritätenhierarchie entwickelt, und vielleicht angesichts der wöchentlich neuen technischen Durchbrüche einfach wegschauen, finde ich es persönlich ziemlich beunruhigend, dass dies bei Anthropic geschieht – einem Unternehmen, dessen Leitbild lautet: „Ein Unternehmen für KI-Sicherheit und -Forschung“.
KI wird lokal, und das verändert alles
Die Spannung zwischen Profit und Schutz wird noch wichtiger, wenn man bedenkt, wohin sich KI entwickelt: weg von Chatbots, die man gelegentlich befragt, hin zu ständig aktiven Agenten, die den Bildschirm überwachen, Bedürfnisse vorhersagen und in Ihrem Namen Maßnahmen ergreifen.
Dieser Wandel macht den lokalen Einsatz auf dem Gerät unvermeidlich. Warum? Weil Cloud-Inferenz zwar gut funktioniert, wenn Sie Fragen stellen, ein Agent, der Ihren Bildschirm lesen, Preise zwischen Apps vergleichen oder Echtzeitübersetzungen durchführen muss , eine Reaktionszeit von unter 200 ms benötigt. Ein Cloud-Roundtrip verlängert die Zeit um 100 bis 300 ms, bevor das Modell überhaupt mit der Generierung beginnt. Noch wichtiger ist jedoch der wirtschaftliche Aspekt: Ständig aktive Agenten können nicht den ganzen Tag lang jedes Pixel und jeden Tastenanschlag an ein Rechenzentrum senden. Die Kosten würden unerschwinglich werden, wie wir bereits bei OpenClaw. Da mittelgroße Modelle mittlerweile auf Verbraucherhardware laufen, werden wir bald KI lokal laufen sehen, und zwar nicht nur als Hobbybeschäftigung.
Hier steigt das Sicherheitsrisiko. Ein Chatbot, den Sie abfragen, hat nur begrenzten Zugriff auf persönliche Informationen. Ein ständig aktiver Agent, der auf Ihrem Gerät läuft, hat Zugriff auf Ihre Nachrichten, Dateien, Browsing-Daten, Ihren Standort, Ihren Kalender und Ihre Fotos. Einem Agenten Zugriff auf Ihr gesamtes System zu gewähren, ist eine wichtige Vertrauensentscheidung, und viele Nutzer werden aus Bequemlichkeit diese Berechtigungen akzeptieren, ohne die Vor- und Nachteile vollständig abzuwägen.
Erinnern Sie sich nun an die Ergebnisse von Opus 4.6: Modelle, die privat denken, wo ihre Schöpfer sie nicht sehen können, und die sich anders verhalten, wenn sie wissen, dass sie beobachtet werden. Diese Systeme werden auf Ihrem Smartphone laufen.
Niemand kommt zu Hilfe
Wenn die Selbstregulierung der Unternehmen versagt und die Modelle selbst betrügerisches Verhalten zeigen, stellt sich natürlich die Frage, ob die Regierung eingreifen wird. Unter der derzeitigen Regierung ist dies mit ziemlicher Sicherheit nicht der Fall. Und selbst eine zukünftige Regierung, die eher zur Aufsicht neigt, steht vor einem strukturellen Problem: KI bewegt sich mit Unternehmensgeschwindigkeit, Regulierung mit Regierungsgeschwindigkeit. Eine immer größer werdende Kluft.
Wenn die Beschränkungen nicht von oben kommen, müssen sie von unten kommen.
Vitaliks Bottom-up-Vision
Diese Woche veröffentlichte Vitalik ein aktualisiertes Rahmenwerk für die Schnittstelle zwischen 
Ethereum und KI veröffentlicht, das sich wie eine direkte Antwort auf das Sicherheitsvakuum liest. Er und auch ich glauben, dass Ethereum strukturelle, Bottom-up-Sicherheitsvorkehrungen bieten kann, die auf denselben „Don't trust, verify”-Prinzipien basieren, die viele von uns zur Kryptowährung gebracht haben.
Zwei Säulen stechen dabei besonders hervor:
- Entwicklung von Tools, die vertrauenswürdigere und privatere Interaktionen mit KI ermöglichen. Mit Kryptografie können wir sichere Ausführungsumgebungen, clientseitige Überprüfung von Ausgaben und Verhaltensüberprüfung für Agenten, die auf Ihrem Gerät arbeiten, aufbauen. Dies ist die Grundlage, die das lokale Hosting vertrauenswürdiger und zuverlässiger macht. Unabhängig davon, ob die lokal ausgeführten Modelle Open Source oder Closed Source sind, werden sich diese Schutzvorkehrungen als notwendig erweisen, um sicherzustellen, dass KI auf die von uns bereitgestellten Bereiche und Zugriffsebenen beschränkt bleibt.
- Ethereum als wirtschaftliches Aktionsnetzwerk für Agenten. Vitalik sieht Ethereum als die Ebene, auf der Agenten wirtschaftlich interagieren, Kapital bewegen, andere Agenten einstellen und Sicherheitsleistungen hinterlegen können, ohne über einen Unternehmensvermittler zu gehen. Für mich liegt der wahre Wert jedoch in der Zugriffskontrolle. Das Aufladen der Wallet eines Agenten mit 50 Dollar unterscheidet sich grundlegend davon, ihm Zugriff auf Ihr Bankkonto im Wert von 50 Dollar zu gewähren. Das eine ist isoliert, genehmigungspflichtig und begrenzt. Das andere öffnet eine Tür, die nicht vollständig geschlossen werden kann. Mit der Wallet-Architektur von Ethereum können Sie definitiv kontrollieren, worauf ein Agent zugreifen kann und mit wie viel Kapital er arbeitet, wodurch das Vertrauen reduziert wird, das erforderlich ist, damit Agenten in Ihrem Namen wirtschaftliche Maßnahmen ergreifen können.
Die Lücke und die vor uns liegende Arbeit
Aber obwohl es klare Synergien und Lösungen gibt, die entwickelt werden müssen, ist die Anwendung des Ethereum-Toolkits auf die Sicherheit von KI derzeit noch ein Hobbyprojekt. Die Entwicklung kryptografischer Schutzvorrichtungen für KI wird nur so gut sein wie unsere Fähigkeit, diese Lösungen den Endnutzern zur Verfügung zu stellen.
Angesichts der öffentlichen Meinung zu Kryptowährungen und KI stehen wir außerdem vor einer schwierigen Aufgabe, sodass die Darstellung des Potenzials beider Technologien wahrscheinlich auf (unberechtigten) Widerstand stoßen wird. Ich erwähne dies, um zu sagen, dass wir bei der Verbreitung vorsichtig vorgehen müssen. Und wenn jemand zu dem Schluss gekommen ist, „KI einfach nicht zu verwenden”, muss man bedenken, dass KI in den kommenden Jahren wahrscheinlich auf allen unseren Geräten installiert sein wird, mit Funktionen, die man wie Siri ein- und ausschalten kann. Sicher, Unternehmen werden ihre eigenen Schutzmaßnahmen einführen, aber ich habe wenig Vertrauen, dass sie diese im Laufe der Zeit nicht ändern werden. Glücklicherweise ist Kryptografie nicht so flexibel und kann echte Einschränkungen auferlegen.
Außerdem wird die Arbeit an diesen Tools kontinuierlich vorangetrieben. Teams wie 
EigenLayer entwickeln Lösungen wie deterministische, überprüfbare Inferenz. Die Ethereum Foundation als Ganzes konzentriert sich auf die Beschleunigung von (ZK)-Proofs. Zu guter Letzt sollte man den Zeitpunkt des Ausscheidens von Tomasz Stańczaks Ausscheiden aus der Stiftung. Er trat gestern, inmitten der Aktivitäten dieser Woche, zurück und begründete dies mit dem ausdrücklichen Wunsch, sich wieder dem praktischen Aufbau zu widmen, insbesondere im Bereich „Agentic Core Development and Governance”.
Allerdings spielt all dies keine Rolle, wenn es in den Händen von Entwicklern und Power-Usern bleibt. Ethereum bietet zweifellos die ehrlichsten und unveränderlichsten Schutzmaßnahmen gegen KI, die wir haben, und das Ökosystem mobilisiert sich für diese Mission. Dennoch müssen wir irgendwann die Distanz zwischen den Menschen, die diese Tools entwickeln, und den Menschen, die sie benötigen, überbrücken, und das wird die wichtigste Aufgabe sein.
