Deep Dive · Open-Source-KI · Freigabe-Governance
Open-Source-Software gewinnt ihre Stärke durch Veröffentlichung. Bei Frontier-KI liegt der Fall anders: Veröffentlichte Modellgewichte vermitteln unmittelbar nutzbare Fähigkeiten. Sie lassen sich kopieren, verändern und weiterverbreiten, aber nicht mehr zurückholen. Die Entscheidung über die Veröffentlichung ist deshalb der letzte Zeitpunkt, zu dem sich Sicherheit noch verbindlich in die Bereitstellung einbauen lässt. Zugleich markiert sie den Beginn der Unumkehrbarkeit.
oder per E-Mail Jansen@j-law.de
Von Dennis G. Jansen. Deutsche Fassung der englischen Seite Open-Weight AI Release: A Risk-Based Test.
Erstmals veröffentlicht im CR-online-Blog am 27. Oktober 2026. Die vollständige Analyse finden Sie hier: Ein risikobasierter Ansatz für Open-Source-KI.
Freie und quelloffene Software definiert sich durch Zugang und Nutzungsrechte: Der Quellcode wird unter einer offenen Lizenz veröffentlicht, die es jedermann erlaubt, ihn zu prüfen, zu verändern und weiterzugeben. Auf diesem Modell beruht ein Großteil des modernen Internets. Seine Vorteile sind unbestreitbar: geringere Kosten, keine Bindung an einen bestimmten Anbieter, offene Standards und öffentliche Kontrolle, durch die sich Sicherheitslücken schneller schließen lassen als bei rein interner Prüfung.
Ein Sprachmodell ist jedoch kein bloßer, passiver Text. Seine Fähigkeiten stecken in den Modellgewichten. Wer diese offen veröffentlicht, überlässt jedem Empfänger ein lokal ausführbares System: ohne Telemetrie, ohne vom Anbieter kontrollierten Endpunkt und ohne zentralen Abschaltmechanismus. Bis Anfang 2026 schrumpfte der Leistungsabstand zwischen den stärksten Open-Weight-Modellen und geschlossenen Modellen von ungefähr einem Jahr auf wenige Monate. Die regulatorische Frage lautet daher nicht mehr, ob offene Modelle grundsätzlich wünschenswert sind, sondern welche Fähigkeiten sich verantwortbar veröffentlichen lassen.
Die Argumentation dieses Beitrags stützt sich nicht auf Prognosen, sondern auf dokumentierte Ereignisse. Drei Beispiele sind dafür maßgeblich:
Für Rechtsberatung und Beschaffung ist eine Asymmetrie entscheidend: Ein Anbieter kann Missbrauch nur so lange erkennen, unterbinden und melden, wie er den Endpunkt kontrolliert. Bei heruntergeladenen Modellgewichten fehlen sowohl anbieterseitige Telemetrie als auch zentrale Abschaltmechanismen. Erkennung und Zuordnung sind die Voraussetzungen jeder wirksamen Rechtsdurchsetzung. Offene Modellgewichte entziehen ihr beides.
Lizenzen können Fähigkeiten nicht wirksam begrenzen. Die Kriterien 5 und 6 der Open Source Definition verbieten die Diskriminierung von Personen, Gruppen oder Tätigkeitsbereichen. Eine Lizenz nach dem Muster „offen, aber nicht für militärische oder böswillige Zwecke“ ist deshalb keine Open-Source-Lizenz. Eine nicht offene Lizenz bietet wiederum nur begrenzten Schutz: Sie greift erst, nachdem ein Verstoß entdeckt, nachgewiesen und gerichtlich verfolgt worden ist. Selbst eine rechtlich eindeutige einstweilige Verfügung benötigt Wochen oder Monate. Bis dahin sind die Modellgewichte dauerhaft im Umlauf.
Lokaler Betrieb ist nicht mit öffentlicher Weiterverbreitung gleichzusetzen. Vorgaben zum Speicher- und Verarbeitungsort von Daten, Vertraulichkeit, Latenz und Unabhängigkeit vom Anbieter sind legitime Gründe, ein Modell auf eigener Hardware zu betreiben. Keiner dieser Gründe erfordert die Veröffentlichung der Modellgewichte. Ein Modell lässt sich auch im Rahmen einer geschlossenen Distribution lokal bereitstellen, verschlüsselt in einer hardwarebasierten Trusted Execution Environment ausführen oder unter einer Vereinbarung beziehen, die eine Weiterverbreitung ausschließt. Lokalen Betrieb und öffentliche Weiterverbreitung gleichzusetzen, ist ein Kategorienfehler, und zwar der häufigste in dieser Debatte.
Bei der Entscheidung über eine Veröffentlichung sind drei Gesichtspunkte abzuwägen:
| Risikostufe | Profil | Form der Bereitstellung |
|---|---|---|
| Geringes Risiko | Keine relevanten Auswirkungen auf kritische Infrastrukturen, militärische Fähigkeiten oder demokratische Prozesse; keine nennenswerte Autonomie oder Selbstreplikation | Vollständige Offenlegung der Modellgewichte |
| Mittleres Risiko | Erhebliche Dual-Use-Fähigkeiten; integrierte Schutzmaßnahmen, die Spezialisten innerhalb von Tagen bis Wochen entfernen können | Selektive Veröffentlichung: offene Modellgewichte für einzelne Komponenten oder Versionen, stufenweise Bereitstellung oder Zugangsbeschränkungen für andere |
| Hohes Risiko | Autonome Handlungsfähigkeit, Selbstreplikation oder offensive Cyber- und Biofähigkeiten; Schutzmaßnahmen innerhalb weniger Minuten entfernbar | Zugang nach Prüfung, stufenweise Weitergabe, überwachte APIs; offene Veröffentlichung erst, wenn das Schutzniveau sie rechtfertigt |
Der Maßstab wirkt in beide Richtungen. Er ist eine Positivliste, kein Verbot: Überwiegt der gesellschaftliche Nutzen die Risiken eindeutig, ist offen zu veröffentlichen.
Die Leitregel besteht aus zwei Teilen. Der erste wird regelmäßig übergangen.
Schutzmaßnahmen offenlegen. Schutzwerkzeuge, Evaluationsumgebungen und Sicherheitsklassifikatoren profitieren von öffentlicher Prüfung und gemeinsamer Pflege. Die Offenlegung von Sicherheitsforschung erhöht das Risiko nicht, wenn die Schutzmaßnahme in der Bereitstellungsarchitektur und im Zugangsprotokoll verankert ist: Dort lässt sie sich nicht durch Eingriffe in die Modellgewichte entfernen.
Die Veröffentlichung absichern. Gehen von den Fähigkeiten Gefahren aus, muss der Bereitstellungsprozess selbst die Sicherheit gewährleisten: durch stufenweise Weitergabe, Zugang für überprüfte Forschende und überwachte APIs. Es geht nicht um Geheimhaltung als Selbstzweck. Entscheidend ist vielmehr, dass nach der Veröffentlichung nur noch eine Möglichkeit zur Risikominderung verbleibt: Irgendwann verdrängt ein leistungsfähigeres Modell das bereits veröffentlichte. Das erhöht jedoch das Risiko erneut, statt es zu beseitigen.
Wenn die Sicherheit darüber entscheidet, ob die Veröffentlichung eines Frontier-Modells verantwortbar ist, müssen konkurrierende Labore gemeinsame Mindeststandards vereinbaren. Das wirft eine kartellrechtliche Frage auf, die der Beitrag ernst nimmt, statt ihr auszuweichen.
Der Einwand ist berechtigt: Wenn Wettbewerber vereinbaren, das Tempo ihrer Veröffentlichungen zu begrenzen, ähnelt dies einem Kartell. Eine solche Begrenzung bleibt zudem wirkungslos, wenn ungeschützte offene Modelle die zurückgehaltenen Modelle schlicht überholen. Die Antwort kann dennoch nicht darin bestehen, auf Koordination zu verzichten. Dann droht ein Unterbietungswettlauf bei der Sicherheit, in dem jedes Labor aus Sorge beschleunigt, die Konkurrenz werde zuerst Abstriche machen. Erforderlich ist vielmehr eine transparente, rechtlich verbindliche und öffentlich beaufsichtigte Zusammenarbeit: Prüfer werden von Regierungen statt von Laboren ausgewählt, Prüfstandards veröffentlicht und ein eng begrenzter kartellrechtlicher Safe Harbour geschaffen, der ausschließlich Sicherheitsprotokolle erfasst. Sicherheitsprotokolle dürfen niemals als proprietärer Wettbewerbsvorteil zurückgehalten werden.
Der Ansatz ist längst nicht mehr nur Gegenstand wissenschaftlicher Diskussion.
Im Bereich der Open-Source-Sicherheit wurde eine Variante dieses Problems bereits gelöst. Debian verbindet den Grundsatz öffentlich zugänglicher Fehlerbehebungen mit einem zeitlich begrenzten Embargo von höchstens zwei Wochen und einem gemeinsamen öffentlichen Fehlerregister. Auf Frontier-KI übertragen spricht das für eine offene, gemeinschaftlich betriebene Evaluationsumgebung und ein öffentliches Fehlerregister, verbunden mit einer stufenweisen, unter Embargo stehenden Weitergabe, bis bekannte Schwachstellen entschärft sind. Modellgewichte lassen sich bislang nicht wie ein Linux-Paket unmittelbar am Einsatzort aktualisieren. Der gemeinschaftliche Kern der Open-Source-Sicherheit kann dennoch erhalten bleiben, während zugleich Fähigkeiten kontrolliert werden, die sich nicht zurückrufen lassen.
Für Anbieter wird die Veröffentlichungsentscheidung zu einem verbindlichen Kontrollpunkt mit klarer Verantwortlichkeit, dokumentierten Sicherheitskriterien und externer Prüfung, bevor Hochrisiko-Modellgewichte unumkehrbar zu öffentlichen Gütern werden. Für Beschaffungsverantwortliche ändert sich die maßgebliche Frage: nicht „Ist dieses Modell offen?“, sondern „Welcher Risikostufe gehört es an, und welche Nachweise tragen diese Einstufung?“. Für die Rechtsberatung gilt: Ein Vertrag kann nicht rückgängig machen, was die Architektur bereits offengelegt hat.
Soll KI damit geschlossen werden? Nein. Offenheit muss durch ein vertretbares Risikoprofil gerechtfertigt sein. Systeme mit geringem Risiko sollten vollständig offen, Schutzmaßnahmen öffentlich zugänglich sein.
Kann eine Lizenz die militärische Nutzung offener Modellgewichte verhindern? Nicht wirksam. Beschränkungen nach Verwendungszwecken sind mit der Open Source Definition unvereinbar. Die Rechtsdurchsetzung setzt zudem erst ein, wenn die Offenlegung bereits unumkehrbar ist.
Ist der lokale Betrieb eines Modells dasselbe wie seine Veröffentlichung? Nein. Lokaler Betrieb ist mit geschlossener Distribution, Confidential Computing und vertraglichen Weiterverbreitungsverboten vereinbar.
In welche Risikostufe fällt ein Frontier-Modell mit allgemeinem Verwendungszweck? Nur selten in die niedrigste. Lassen sich schädliche Fähigkeiten nicht bereits vor der Veröffentlichung auf Daten- oder Architekturebene verhindern, gehören Frontier-Modelle mit allgemeinem Verwendungszweck in eine zugangsbeschränkte Bereitstellung.