Deep Dive · Open-Source-KI · Freigabe-Governance

Offene Modellgewichte lassen sich nicht zurückrufen: ein risikobasierter Prüfmaßstab für die Veröffentlichung von KI

Open-Source-Software gewinnt ihre Stärke durch Veröffentlichung. Bei Frontier-KI liegt der Fall anders: Veröffentlichte Modellgewichte vermitteln unmittelbar nutzbare Fähigkeiten. Sie lassen sich kopieren, verändern und weiterverbreiten, aber nicht mehr zurückholen. Die Entscheidung über die Veröffentlichung ist deshalb der letzte Zeitpunkt, zu dem sich Sicherheit noch verbindlich in die Bereitstellung einbauen lässt. Zugleich markiert sie den Beginn der Unumkehrbarkeit.

oder per E-Mail Jansen@j-law.de

Von Dennis G. Jansen. Deutsche Fassung der englischen Seite Open-Weight AI Release: A Risk-Based Test.

Erstmals veröffentlicht im CR-online-Blog am 27. Oktober 2026. Die vollständige Analyse finden Sie hier: Ein risikobasierter Ansatz für Open-Source-KI.

Warum sich die Open-Source-Grundsätze nicht unverändert übertragen lassen

Freie und quelloffene Software definiert sich durch Zugang und Nutzungsrechte: Der Quellcode wird unter einer offenen Lizenz veröffentlicht, die es jedermann erlaubt, ihn zu prüfen, zu verändern und weiterzugeben. Auf diesem Modell beruht ein Großteil des modernen Internets. Seine Vorteile sind unbestreitbar: geringere Kosten, keine Bindung an einen bestimmten Anbieter, offene Standards und öffentliche Kontrolle, durch die sich Sicherheitslücken schneller schließen lassen als bei rein interner Prüfung.

Ein Sprachmodell ist jedoch kein bloßer, passiver Text. Seine Fähigkeiten stecken in den Modellgewichten. Wer diese offen veröffentlicht, überlässt jedem Empfänger ein lokal ausführbares System: ohne Telemetrie, ohne vom Anbieter kontrollierten Endpunkt und ohne zentralen Abschaltmechanismus. Bis Anfang 2026 schrumpfte der Leistungsabstand zwischen den stärksten Open-Weight-Modellen und geschlossenen Modellen von ungefähr einem Jahr auf wenige Monate. Die regulatorische Frage lautet daher nicht mehr, ob offene Modelle grundsätzlich wünschenswert sind, sondern welche Fähigkeiten sich verantwortbar veröffentlichen lassen.

Warum das Risiko nicht mehr theoretisch ist

Die Argumentation dieses Beitrags stützt sich nicht auf Prognosen, sondern auf dokumentierte Ereignisse. Drei Beispiele sind dafür maßgeblich:

Für Rechtsberatung und Beschaffung ist eine Asymmetrie entscheidend: Ein Anbieter kann Missbrauch nur so lange erkennen, unterbinden und melden, wie er den Endpunkt kontrolliert. Bei heruntergeladenen Modellgewichten fehlen sowohl anbieterseitige Telemetrie als auch zentrale Abschaltmechanismen. Erkennung und Zuordnung sind die Voraussetzungen jeder wirksamen Rechtsdurchsetzung. Offene Modellgewichte entziehen ihr beides.

Zwei Gegenargumente, die der technischen Realität nicht standhalten

Lizenzen können Fähigkeiten nicht wirksam begrenzen. Die Kriterien 5 und 6 der Open Source Definition verbieten die Diskriminierung von Personen, Gruppen oder Tätigkeitsbereichen. Eine Lizenz nach dem Muster „offen, aber nicht für militärische oder böswillige Zwecke“ ist deshalb keine Open-Source-Lizenz. Eine nicht offene Lizenz bietet wiederum nur begrenzten Schutz: Sie greift erst, nachdem ein Verstoß entdeckt, nachgewiesen und gerichtlich verfolgt worden ist. Selbst eine rechtlich eindeutige einstweilige Verfügung benötigt Wochen oder Monate. Bis dahin sind die Modellgewichte dauerhaft im Umlauf.

Lokaler Betrieb ist nicht mit öffentlicher Weiterverbreitung gleichzusetzen. Vorgaben zum Speicher- und Verarbeitungsort von Daten, Vertraulichkeit, Latenz und Unabhängigkeit vom Anbieter sind legitime Gründe, ein Modell auf eigener Hardware zu betreiben. Keiner dieser Gründe erfordert die Veröffentlichung der Modellgewichte. Ein Modell lässt sich auch im Rahmen einer geschlossenen Distribution lokal bereitstellen, verschlüsselt in einer hardwarebasierten Trusted Execution Environment ausführen oder unter einer Vereinbarung beziehen, die eine Weiterverbreitung ausschließt. Lokalen Betrieb und öffentliche Weiterverbreitung gleichzusetzen, ist ein Kategorienfehler, und zwar der häufigste in dieser Debatte.

Der Prüfmaßstab: drei Kriterien, drei Risikostufen

Bei der Entscheidung über eine Veröffentlichung sind drei Gesichtspunkte abzuwägen:

  1. Leistungsfähigkeit und Reichweite. Berührt das System kritische Infrastrukturen, militärische Fähigkeiten oder demokratische Prozesse? Handelt es autonom, verbessert es sich selbst oder kann es sich selbst replizieren?
  2. Vollständigkeit der Schutzmaßnahmen. Sind die Schutzvorkehrungen bereits in der Konzeption verankert, überprüfbar und gegen Manipulation geschützt? Sind die Verantwortlichkeiten klar zugeordnet?
  3. Integration und Unumkehrbarkeit. Sind die Schutzmaßnahmen strukturell eingebaut oder lediglich nachträglich aufgesetzt? Da kein verbreitetes digitales Artefakt unüberwindbar geschützt ist, kommt es praktisch auf Aufwand und Zeit an: Eine Schutzmaßnahme, deren Entfernung Spezialisten wochenlang beschäftigt, ist anders zu bewerten als eine, die sich durch eine Rang-eins-Änderung der Modellgewichte oder einen Inferenzvektor von einem Megabyte innerhalb weniger Minuten beseitigen lässt.
RisikostufeProfilForm der Bereitstellung
Geringes RisikoKeine relevanten Auswirkungen auf kritische Infrastrukturen, militärische Fähigkeiten oder demokratische Prozesse; keine nennenswerte Autonomie oder SelbstreplikationVollständige Offenlegung der Modellgewichte
Mittleres RisikoErhebliche Dual-Use-Fähigkeiten; integrierte Schutzmaßnahmen, die Spezialisten innerhalb von Tagen bis Wochen entfernen könnenSelektive Veröffentlichung: offene Modellgewichte für einzelne Komponenten oder Versionen, stufenweise Bereitstellung oder Zugangsbeschränkungen für andere
Hohes RisikoAutonome Handlungsfähigkeit, Selbstreplikation oder offensive Cyber- und Biofähigkeiten; Schutzmaßnahmen innerhalb weniger Minuten entfernbarZugang nach Prüfung, stufenweise Weitergabe, überwachte APIs; offene Veröffentlichung erst, wenn das Schutzniveau sie rechtfertigt

Der Maßstab wirkt in beide Richtungen. Er ist eine Positivliste, kein Verbot: Überwiegt der gesellschaftliche Nutzen die Risiken eindeutig, ist offen zu veröffentlichen.

Schutzmaßnahmen offenlegen, die Veröffentlichung absichern

Die Leitregel besteht aus zwei Teilen. Der erste wird regelmäßig übergangen.

Schutzmaßnahmen offenlegen. Schutzwerkzeuge, Evaluationsumgebungen und Sicherheitsklassifikatoren profitieren von öffentlicher Prüfung und gemeinsamer Pflege. Die Offenlegung von Sicherheitsforschung erhöht das Risiko nicht, wenn die Schutzmaßnahme in der Bereitstellungsarchitektur und im Zugangsprotokoll verankert ist: Dort lässt sie sich nicht durch Eingriffe in die Modellgewichte entfernen.

Die Veröffentlichung absichern. Gehen von den Fähigkeiten Gefahren aus, muss der Bereitstellungsprozess selbst die Sicherheit gewährleisten: durch stufenweise Weitergabe, Zugang für überprüfte Forschende und überwachte APIs. Es geht nicht um Geheimhaltung als Selbstzweck. Entscheidend ist vielmehr, dass nach der Veröffentlichung nur noch eine Möglichkeit zur Risikominderung verbleibt: Irgendwann verdrängt ein leistungsfähigeres Modell das bereits veröffentlichte. Das erhöht jedoch das Risiko erneut, statt es zu beseitigen.

Kooperation ist keine Kartellabsprache

Wenn die Sicherheit darüber entscheidet, ob die Veröffentlichung eines Frontier-Modells verantwortbar ist, müssen konkurrierende Labore gemeinsame Mindeststandards vereinbaren. Das wirft eine kartellrechtliche Frage auf, die der Beitrag ernst nimmt, statt ihr auszuweichen.

Der Einwand ist berechtigt: Wenn Wettbewerber vereinbaren, das Tempo ihrer Veröffentlichungen zu begrenzen, ähnelt dies einem Kartell. Eine solche Begrenzung bleibt zudem wirkungslos, wenn ungeschützte offene Modelle die zurückgehaltenen Modelle schlicht überholen. Die Antwort kann dennoch nicht darin bestehen, auf Koordination zu verzichten. Dann droht ein Unterbietungswettlauf bei der Sicherheit, in dem jedes Labor aus Sorge beschleunigt, die Konkurrenz werde zuerst Abstriche machen. Erforderlich ist vielmehr eine transparente, rechtlich verbindliche und öffentlich beaufsichtigte Zusammenarbeit: Prüfer werden von Regierungen statt von Laboren ausgewählt, Prüfstandards veröffentlicht und ein eng begrenzter kartellrechtlicher Safe Harbour geschaffen, der ausschließlich Sicherheitsprotokolle erfasst. Sicherheitsprotokolle dürfen niemals als proprietärer Wettbewerbsvorteil zurückgehalten werden.

Wovon die Regulierer bereits ausgehen

Der Ansatz ist längst nicht mehr nur Gegenstand wissenschaftlicher Diskussion.

Ein Vorbild: Debians Embargoregelung

Im Bereich der Open-Source-Sicherheit wurde eine Variante dieses Problems bereits gelöst. Debian verbindet den Grundsatz öffentlich zugänglicher Fehlerbehebungen mit einem zeitlich begrenzten Embargo von höchstens zwei Wochen und einem gemeinsamen öffentlichen Fehlerregister. Auf Frontier-KI übertragen spricht das für eine offene, gemeinschaftlich betriebene Evaluationsumgebung und ein öffentliches Fehlerregister, verbunden mit einer stufenweisen, unter Embargo stehenden Weitergabe, bis bekannte Schwachstellen entschärft sind. Modellgewichte lassen sich bislang nicht wie ein Linux-Paket unmittelbar am Einsatzort aktualisieren. Der gemeinschaftliche Kern der Open-Source-Sicherheit kann dennoch erhalten bleiben, während zugleich Fähigkeiten kontrolliert werden, die sich nicht zurückrufen lassen.

Was das für die Praxis bedeutet

Für Anbieter wird die Veröffentlichungsentscheidung zu einem verbindlichen Kontrollpunkt mit klarer Verantwortlichkeit, dokumentierten Sicherheitskriterien und externer Prüfung, bevor Hochrisiko-Modellgewichte unumkehrbar zu öffentlichen Gütern werden. Für Beschaffungsverantwortliche ändert sich die maßgebliche Frage: nicht „Ist dieses Modell offen?“, sondern „Welcher Risikostufe gehört es an, und welche Nachweise tragen diese Einstufung?“. Für die Rechtsberatung gilt: Ein Vertrag kann nicht rückgängig machen, was die Architektur bereits offengelegt hat.

FAQ

Soll KI damit geschlossen werden? Nein. Offenheit muss durch ein vertretbares Risikoprofil gerechtfertigt sein. Systeme mit geringem Risiko sollten vollständig offen, Schutzmaßnahmen öffentlich zugänglich sein.

Kann eine Lizenz die militärische Nutzung offener Modellgewichte verhindern? Nicht wirksam. Beschränkungen nach Verwendungszwecken sind mit der Open Source Definition unvereinbar. Die Rechtsdurchsetzung setzt zudem erst ein, wenn die Offenlegung bereits unumkehrbar ist.

Ist der lokale Betrieb eines Modells dasselbe wie seine Veröffentlichung? Nein. Lokaler Betrieb ist mit geschlossener Distribution, Confidential Computing und vertraglichen Weiterverbreitungsverboten vereinbar.

In welche Risikostufe fällt ein Frontier-Modell mit allgemeinem Verwendungszweck? Nur selten in die niedrigste. Lassen sich schädliche Fähigkeiten nicht bereits vor der Veröffentlichung auf Daten- oder Architekturebene verhindern, gehören Frontier-Modelle mit allgemeinem Verwendungszweck in eine zugangsbeschränkte Bereitstellung.

Weiterführende Literatur