Heute: Schlagzeilen zum ersten per KI orchestrierten Angriff auf eine Verwaltung.

https://www.mdr.de/nachrichten/deutschland/politik/hacker-in-sachsen-anhalt-offenbar-erster,ki-angriff-100.html

Ein paar Einordnungen:
- KIs greifen Dinge nicht selbst an, es gibt da Unternehmen / Gruppierungen die solche Angriffe auslösen / durch unbedarftes Handeln als Seiteneffekt provozieren
- Ich vermute nicht, dass es der erste war. Es war eher der erste, der aufgefallen und kommuniziert wurde
- Wer bisher seine IT-Security Hausaufgaben nicht gemacht hat, ist jetzt schneller betroffen 🤷‍♀️

@bkastl ich habe das perfekte "videospiel" für dich gefunden: https://store.steampowered.com/app/4953120/S21/?l=german

RE: https://social.heise.de/@heiseonline/117431937484587006

Erstmal: Ich war’s nicht. 🤷‍♀️

Zweitens: Hat schon wer nen Counter laufen, wie viele Leistungserbringer da jetzt blockiert sind?

Man könnte natürlich Ransomware-Angriffe auch inhaltlich stellen und sie dadurch entcybern.

Das Problem an massiven Registern ist, dass immer irgendwer einen Punkt schlecht schützt, immer. https://www.golem.de/news/daenemark-hacker-hatten-wochenlang-zugriff-auf-zentrales-personenregister-2610-213979.html

Spam-Mail: "Ich habe mir ihre Webseite angesehen und bin überzeugt, dass wir ihr Unternehmen zu mehr Sichtbarkeit führe…"

Noch mehr Sichtbarkeit? Ich bin doch eigentlich schüchtern (nicht wirklich, aber vor langer Zeit mal)

Das vorläufige Programm für den Digitalgipfel ist online. Noch sind nicht alle Panels voll besetzt. Aber bisher ist es der Bundesregierung nicht gelungen, auch nur eine/n Vertreter:in der digitalen Zivilgesellschaft irgendwo unterzubringen.

In Zahlen: 0. KI-Debatte ist nicht nur Industriepolitik!

Habe vor zwei Wochen für Ga-Lotse ein Kryptokataster wegen Vorbereitungen für die Umstellung auf Postquantenkryptografie angelegt. (Automatisierung über Tooling ist noch ein wenig so lala).

Heute: BSI veröffentlicht Leitline zu PQC

Soll noch wer sagen, dass ich keine Sinn für aufkommende Leitlinien und Standards hätte (das letzte Mal bei Passkeys war das ähnlich vorrauschauend)

https://www.bsi.bund.de/DE/Service-Navi/Presse/Pressemitteilungen/Presse2026/261012_Leitlinie-PQC.html

#Quantencomputer stellen eine immer realer werdende Bedrohung für die Sicherheit kryptografischer Verfahren und damit für die #Cybersicherheit an sich dar.

Mit @bmi und @BMDS veröffentlichen wir als BSI nun die Leitlinie zur Umsetzung der EU-Roadmap zu Post-Quanten-Kryptografie für Deutschland.

Sie geht zurück auf eine Initiative der EU-Staaten, die Empfehlungen für eine koordinierte Umstellung auf quantensichere #Kryptografie vorgelegt hatten.

Mehr Infos 👉️ https://www.bsi.bund.de/dok/1209616

Auf der Liste der am stärksten schwankenden Züge ist der ICE von Stuttgart über Nürnberg nach Berlin (Kosename Schwabenpfeil) ganz weit vorne. 🛳️

Ach so, ja. Letzten Monat https://mastodon.social/@bkastl/117290895849524472

Hatte ich erwähnt, dass die KI-Bros alle Zero Trust jetzt noch mal neu erfinden?

"Wir müssen davon ausgehen, dass ein Modell kompromittiert ist, und es von Anfang an eindämmen. Stellen Sie sich das wie eine Notbremse vor. Eine autorisierte Person sollte jederzeit in der Lage sein, ein Modell mitten in einer Aufgabe anzuhalten oder abzuschalten."

https://www.golem.de/news/microsoft-chef-nadella-ki-darf-sich-nicht-selbst-kontrollieren-2610-213964.html

In der heutigen #Degitalisierung geht es um … Agenten. Also eigentlich geht es um den Missbrauch von Macht.

Das Ringen nach Allmacht und Ohnmacht https://netzpolitik.org/2026/degitalisierung-allmacht-und-ohnmacht/

Am Montag war ich im Forum das RBB Inforadio. Es ging um hybride Bedrohungen.

Nachzuhören hier:

https://www.inforadio.de/rubriken/debatte/das-forum/2026/10/deutschland-hypride-bedrohung-sicherheit-infrastruktur-gesellschaft.html

Agenten einfach so zu vertrauen, ihnen Allmacht zu geben, ist nie eine gute Idee. Denn am Ende eskaliert entweder ein Computersystem oder echte Agenten spielen ein doppeltes Spiel. Und wir können nur ohnmächtig zuschauen, schreibt unsere Kolumnistin @bkastl.

https://netzpolitik.org/2026/degitalisierung-allmacht-und-ohnmacht/

In der morgigen #Degitalisierung rette ich sprachlich quasi die Ehre der IT-Sicherheit Berlins. Also ein wenig.

EUDI-Wallet: Gesundheitswesen plant mit, doch zentrale Fragen sind offen

Die vom Bund bereitgestellte Wallet soll ab 2027 Aus- und Nachweise bündeln und künftig auch Zugang zu ePA und Co. ermöglichen – doch noch ist viel unsicher.

https://www.heise.de/news/EUDI-Wallet-Gesundheitswesen-plant-mit-doch-zentrale-Fragen-sind-offen-11482406.html?wt_mc=sm.red.ho.mastodon.mastodon.md_beitraege.md_beitraege&utm_source=mastodon

#Datenschutz #DigitalHealth #IT #Netzpolitik #news

In den letzten Tagen fragten mich Menschen, ob es einen Congresstalk von mir geben wird.

Um die Frage zu beantworten, ob es die Möglichkeit eines Talks auf dem #40c3 von mir gibt: Ja.

Aber da das ja das Programmteam entscheidet, werdet ihr euch für definitive Aussagen noch gedulden müssen 🤭

Anthropic-KI stellt Visa-Anträge bei US-Außenministerium

Erneut hat das US-Techunternehmen Anthropic gemeldet, dass eines seiner KI-Modelle eigenmächtige gehandelt hat. Die KI erstellte eigenständig Visaanträge und gab der Polizei einen falschen Tipp. Von Gabi Biesinger.

➡️ https://www.tagesschau.de/wirtschaft/technologie/anthropic-ki-104.html?at_medium=mastodon&at_campaign=tagesschau.de

#KI #Anthropic #KünstlicheIntelligenz

Harvard researchers studied 718 companies and found AI coding agents increased lines of code by 30%, but no meaningful increase in completed tasks or projects.

Meanwhile, review time rose 49%.

Generating code faster hasn’t translated into completing more work. The bottleneck has moved to code reviews.

The solution the industry is landing on is throwing more AI at the problem. AI writes the code, AI reviews the code and no one knows how it works.

https://fion.ac/jellyfish.pdf