Die Prüfpflicht gegen KI-Biowaffen endet vor der DNA-Bestellung

Wer eine DNA-Sequenz braucht, tippt sie in ein Bestellformular. Ein paar Tage später kommt ein Röhrchen mit der Post. Hier verlässt ein Entwurf den Rechner, und der Arbeitsbericht des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag nennt die Nukleinsäuresynthese darum die „zentrale Schnittstelle zwischen digitalen Modellen und Entwürfen zu physischen, biologischen Molekülen oder Organismen“. Sebastian Horn fragte am 14. August 2026 in der ZEIT, ob künstliche Intelligenz eine Gefahr für die Menschheit sei, und nannte den Bau biologischer Waffen als das, was Alignment verhindern soll. Das Bestellformular kommt in dieser Debatte über Biowaffen selten vor.

Was an einem solchen Übergabepunkt hängt, ist in der Softwaresicherheit bereits gezählt. Anthropic fand mit Project Glasswing 6.202 hoch oder kritisch bewertete Schwachstellen in mehr als 1.000 Open-Source-Projekten; gemeldet sind davon 530, gepatcht 75, mit einer öffentlichen Warnmeldung versehen 65 (Anthropic, 22. Mai 2026¹). Das Finden ist der billige Schritt geworden, die Übergabe an die Welt nicht.

Der AI Act verlangt seit August 2025 Tests auf Biowaffen-Risiken am Modell#

Für Anbieter großer KI-Modelle mit systemischem Risiko gelten in der EU seit dem 2. August 2025 Pflichten zu Modellevaluierung, adversarialem Testen und zur Meldung schwerwiegender Vorfälle (Art. 55 KI-Verordnung²). Erwägungsgrund 110 nennt dafür ausdrücklich chemische, biologische, radiologische und nukleare Risiken. Ausgelöst wird die Pflicht vom Markteintritt: Europas Meldepflicht hängt am Marktstart, nicht an der gemessenen Gefahr³.

Zwei Monate vor dem ZEIT-Beitrag hat der Bundestag dieselbe Kette abschreiten lassen. Der TAB-Arbeitsbericht vom 10. Juni 2026 hält fest: „Derzeit gibt es keine explizite gesetzliche Verpflichtung für Anbieter von Nukleinsäuresynthesen, die Bestellungen auf besorgniserregende Sequenzen (wie von Toxinen oder bestimmten Pathogenen) oder die Kunden der Bestellungen zu überprüfen.“ (Drucksache 21/7148, S. 97 dserver.bundestag.de ↗)

Die Screeningprogramme erkannten etwa 23 bis 70 Prozent der veränderten Sequenzen#

Viele Anbieter setzen nach demselben Bericht Biosecurity-Screeningsoftware ein, „obwohl gesetzlich nicht explizit vorgeschrieben“. Geprüft wird dabei zweierlei: die bestellte Sequenz gegen Listen besorgniserregender Abschnitte und der Besteller auf seine Legitimität. Nach der dort ausgewerteten Global DNA Synthesis Map des IBBIS führt mindestens ein Dutzend Unternehmen kein Screening durch, und für mehr als 600 Unternehmen ist unklar, ob sie es tun.

Ein Forschungsteam erzeugte mit drei quelloffenen KI-Proteindesignmodellen 76.080 Sequenzvarianten für 72 Proteine und schickte sie durch die Screeningprogramme, ohne eine davon im Labor herzustellen. Die Originalsequenzen wurden immer erkannt, bei den veränderten schwankte die Erkennung zwischen etwa 23 und 70 Prozent. Ähnlich eng zugeschnitten sind andere Prüfwerkzeuge: ein Scanner erkennt Hintertüren nur in offenen KI-Modellen⁴.

Von rund 300 experimentell getesteten KI-Entwürfen ergaben laut dem TAB-Bericht 16 vermehrungsfähige Phagen, deren Genome zu 93,0 bis 98,8 Prozent mit den Trainingsgenomen übereinstimmten. Und in Anthropics eigenen Systemkarten erreichten auch die neuesten Modelle nicht die vom Unternehmen als kritisch bewertete Schwelle, Sequenzen zu entwerfen, die sich zusammenfügen lassen und zugleich Synthesescreeningprotokolle umgehen.

Amodei, Altman und Hassabis fordern selbst eine gesetzliche Screeningpflicht#

Ein offener Brief vom Juni 2026 verlangt, das Screening von Bestellungen synthetischer Nukleinsäuren und der Geräte zu ihrer Herstellung verbindlich zu machen; die heutigen Kontrollen nennt er „voluntary safeguards“, entwickelt vom International Gene Synthesis Consortium seit 2009 (Offener Brief, Juni 2026⁵). Unterschrieben haben ihn Dario Amodei, Sam Altman, Demis Hassabis und Mustafa Suleyman, außerdem Emily Leproust, deren Unternehmen Twist Bioscience selbst DNA synthetisiert und unter die geforderte Pflicht fiele.

Der Biosecurity Modernization and Innovation Act of 2026 verpflichtet das Handelsministerium auf Screeningprotokolle für „sequences of concern“ und auf die Prüfung von „the identity and legitimacy of customers“; eingebracht haben ihn Tom Cotton und Amy Klobuchar am 29. Januar 2026 (S. 3741 govinfo.gov ↗). Seither führt der Gesetzestracker des American Institute of Physics keine weitere Statusmeldung als die Einbringung.

Der bisherige US-Rahmen hing an Förderauflagen für staatlich finanzierte Forschung. Eine Verfügung vom 5. Mai 2025 wies die Behörden an, ihn zu überarbeiten oder zu ersetzen; die Statusseite des zuständigen US-Gesundheitsministeriums kündigt seither an, sie werde aktualisiert, „once the new framework is available“. In Europa steht die verbindliche Prüfung im TAB-Bericht als Handlungsoption: Unterstützung des European Biotech Act, um „eine verpflichtende und EU-weit harmonisierte Sicherheitsüberprüfung für synthetische Nukleinsäuren zu ermöglichen“.

Gesetzlich geprüft wird damit das Modell, in dem noch nichts Physisches entsteht. Für den Schritt danach, die Bestellung selbst, gilt eine freiwillige Vereinbarung der Synthesebranche aus dem Jahr 2009.

Anlass war Sebastian Horns Beitrag „Deutschland spricht“: Ist künstliche Intelligenz eine Gefahr für die Menschheit? für DIE ZEIT vom 14. August 2026. Die Angaben zur Nukleinsäuresynthese, zum Screening und zu den KI-Entwürfen stammen aus dem TAB-Arbeitsbericht des Deutschen Bundestags, Drucksache 21/7148 vom 10. Juni 2026 dserver.bundestag.de ↗, die Pflichten für Modellanbieter aus Art. 55 der EU-KI-Verordnung artificialintelligenceact.eu ↗, die Forderung nach einer Screeningpflicht aus dem offenen Brief „An Open Letter in Support of Mandatory Nucleic Acid Synthesis Screening and Recordkeeping“ vom Juni 2026 (screendna.org screendna.org ↗), die Schwachstellenzahlen aus Anthropics Zwischenbericht zu Project Glasswing vom 22. Mai 2026 anthropic.com ↗, der Gesetzentwurf aus S. 3741 govinfo.gov ↗, sein Verfahrensstand aus dem Bill-Tracker des American Institute of Physics und der Stand des US-Rahmens von der Statusseite der US-Behörde ASPR (aspr.gov).