Bayerischer KI-Gipfel im Digitalministerium: Stärkeres Augenmerk auf KI-Sicherheit

Wie lassen sich die rasanten Fortschritte bei Künstlicher Intelligenz mit wirksamen Sicherheitsvorkehrungen verbinden? Mit dieser Frage beschäftigte sich der Bayerische KI-Gipfel, zu dem Digitalminister Dr. Fabian Mehring Vertreter internationaler KI-Unternehmen sowie Fachleute aus Wissenschaft, Ethik und Gesellschaft ins Bayerische Staatsministerium für Digitales eingeladen hatte.

Nach dem nicht öffentlichen Treffen kündigte Mehring mehrere Maßnahmen an, mit denen der Freistaat die Risiken leistungsfähiger KI-Systeme systematischer untersuchen und den verantwortungsvollen Umgang mit der Technologie fördern will.

An dem Gipfel nahmen unter anderem Vertreter von Google, IBM, Mistral AI und OpenAI teil. Eingebunden waren zudem der Bayerische KI-Rat, das Bayerische KI-Produktionsnetzwerk, sowie Fraunhofer-Vertreter. Diskutiert wurden die Fortschritte bei besonders leistungsfähigen KI-Modellen, sogenannte Frontier-Modelle, und bei agentischer KI. Dabei ging es auch um aktuelle Erkenntnisse der internationalen Sicherheitsforschung und die Frage, welche technischen und politischen Regeln für die nächste Generation von KI-Systemen notwendig sind.

KI-Sicherheitsdialog

Als erste Konsequenz richtet das Digitalministerium einen Bayerischen KI-Sicherheitsdialog ein, der mit dem Bayerischen KI-Rat abgestimmt werden soll. Mindestens zweimal jährlich sollen Vertreter aus Wirtschaft, Wissenschaft und Politik zusammenkommen, um aktuelle Entwicklungen zu bewerten und daraus mögliche Handlungsbedarfe abzuleiten. Bei besonderen Entwicklungen sind zusätzliche Treffen vorgesehen. Die erste Sitzung soll noch 2026 stattfinden.

Ergänzend will das Ministerium eine unabhängige wissenschaftliche Begleitung aufbauen. Noch in diesem Jahr soll festgelegt werden, wer diese Aufgabe übernimmt. Auf dieser Grundlage soll künftig jährlich ein Bayerischer KI-Sicherheitsbericht erstellt und öffentlich vorgestellt werden. Der erste Bericht ist für 2027 geplant.

Mehring begründete diesen Schritt mit der Verantwortung des Staates, sich ein eigenes Bild von der Sicherheit einer Schlüsseltechnologie zu machen. Die Bewertung dürfe nicht ausschließlich den Unternehmen überlassen bleiben, die KI-Systeme entwickeln und vermarkten. Dafür brauche es eigene wissenschaftliche Expertise und belastbare Erkenntnisse über die tatsächlichen Risiken.

KI-Ethikforum

Neben technischen Sicherheitsfragen will der Freistaat auch ethische und gesellschaftliche Auswirkungen stärker berücksichtigen. Dazu soll unter dem Dach des Digitalministeriums ein Bayerisches KI-Ethikforum entstehen, das ebenfalls noch 2026 erstmals zusammentreten soll. Eine breit angelegte Aufklärungskampagne soll zudem Wissen über die Möglichkeiten und Risiken Künstlicher Intelligenz vermitteln und die Bevölkerung für einen verantwortungsvollen Umgang mit der Technologie sensibilisieren.

„Wer bei KI an der Spitze fährt, muss auch die Leitplanken mitbauen“, erklärte der Minister. Bayern wolle die Chancen der Technologie nutzen und zugleich Verantwortung für ihre Risiken übernehmen. Innovation und Sicherheit seien keine Gegensätze. Entscheidend sei, technische Entwicklungen zu ermöglichen und gleichzeitig dafür zu sorgen, dass der Mensch die Kontrolle behalte.

Darüber hinaus erneuerte der Minister die Forderung, ein deutsches KI-Sicherheitsinstitut in Bayern anzusiedeln, um die wissenschaftliche Auseinandersetzung mit den Risiken leistungsfähiger KI-Systeme zu stärken. Die Forderung fügt sich in das Bestreben des Freistaats ein, seine Position als KI-Standort auszubauen und zugleich die Sicherheitsforschung voranzubringen.

Die Ergebnisse des Gipfels will Mehring außerdem in die Beratungen der Digitalministerkonferenz im November in Brüssel einbringen. Damit soll die bayerische Initiative auch in die überregionale Debatte über den Umgang mit leistungsfähiger Künstlicher Intelligenz einfließen.