KI schreibt deinen Code. Und die Sicherheitslücken gleich mit.

Pierre Tempel hat direkt nach dem Abitur gegründet, mit IT-Sicherheit und Dark-Web-Monitoring sein Handwerk gelernt und einen Exit an SolarWinds begleitet. Dort saß er im Team der CTO, als 2020 einer der folgenreichsten Cyberangriffe der Geschichte bekannt wurde. Heute ist er Director of Product bei GitHub und verantwortet die Produkte, die Sicherheitslücken in Code finden und schließen. In Folge 8 von Agenda 2036 geht es um die Frage, wem man Software noch trauen kann, wenn sie nicht mehr von Menschen geschrieben wird.

Was ein Angriff mit einer Firma macht

Der Anruf kam mitten in der Nacht. “Wir müssen dieses und jenes Event absagen, wir müssen dieses und jenes Produkt verschieben, denn wir sind angegriffen worden.” Danach war nichts mehr sicher: Der Angriff war über Monate gelaufen, bis hinunter zur Firmware der Server, auf denen die Build-Systeme liefen. Tempels Team wechselte von Zukunftsforschung zu Security, mit der Aufgabe, die Software von rund 70 Produktteams weltweit abzusichern, bevor sie zum Kunden geht.

“Du kannst deinem Computer nicht vertrauen, kannst deinem Buildserver nicht vertrauen, kannst deinem Code nicht mehr vertrauen. Du musst praktisch alles doppelt und dreifach checken.”

Bemerkenswert ist, was er über die Reaktion sagt. Der erste Satz des CEO im All Hands war, dass nichts vertuscht wird. Die Firma investierte Geld, Zeit und Personal, um herauszufinden, was passiert ist, und gab die Erkenntnisse an die US-Behörde CISA weiter, damit andere Hersteller kritischer Infrastruktur prüfen konnten, ob es sie auch getroffen hat.

Zur Frage, ob Russland dahintersteckt, bleibt Tempel präzise: Externe Prüfer und Microsoft fanden Merkmale, die zu bekannten Werkzeugen russischer Gruppen passen. “Kausalität kann man damit nicht herstellen.” Die Tools hätten auch auf dem Schwarzmarkt gekauft werden können. Die wilderen Geschichten rund um die Wahl 2020 ordnet er klar ein: “99 Prozent Fantasie, ein Prozent Wahrheit.”

Der Pace Gap: weniger als 24 Stunden

Die eigentliche Veränderung durch KI ist für ihn nicht die Art der Schwachstellen, sondern das Tempo. “Wenn man eine Schwachstelle hatte, sagen wir mal in 2015, dann hat es vielleicht ein Jahr oder zwei Jahre gedauert oder es ist überhaupt nicht passiert, dass irgendjemand diese Schwachstelle angreift.” Heute sieht GitHub einen vier- bis sechsfachen Faktor an Schwachstellen, die gefunden und angegriffen werden. Und die Zeit zwischen Fund und aktivem Angriff liegt erstmals unter 24 Stunden.

Seine Konsequenz ist unbequem für die meisten Firmen: Ein eigenes Sicherheitsbudget und zwei zuständige Leute reichen nicht mehr. Security muss ein nicht optionaler Teil der Entwicklung werden.

Warum KI Senioren hilft und Junioren den Aufstieg nimmt

“Der Impact, den ich am meisten gesehen habe von AI, ist nicht der Ersatz von Entwicklern, sondern die noch höhere Messlatte für den Menschen an sich.” Am meisten profitieren Senior- und Staff-Level. Der Grund ist nicht Technik, sondern Führung: Wer mehrere autonome Agenten parallel orchestriert, muss Kontrolle abgeben. Mid-Level-Entwickler wollen dagegen oft noch jede Zeile selbst lesen.

Das Problem liegt eine Stufe darunter. Die Fähigkeiten, die Senioren jetzt auszahlen, sind genau dort entstanden, wo sie früher selbst an komplexen Systemen gearbeitet und sie von vorne bis hinten verstanden haben. Wer heute zu hundert Prozent auf KI setzt, erreicht dieses Plateau nie. “Das Problem auf der anderen Seite ist, dass es fast gar keine Möglichkeit mehr gibt, für Junior-Entwickler zu einem Senior-Entwickler zu werden.” Diesen Gap zu schließen hält er für die größte Aufgabe der Branche in den nächsten fünf bis zehn Jahren.

Dazu kommt ein sozialer Effekt: Früher musste der Junior die dumme Frage dem Senior stellen, heute stellt er sie der KI. “Die AI könnte dir aber niemals den Business-Kontext erklären.” Warum wurde das so gebaut, welche Interessen stecken dahinter? Die Beziehung zwischen Junior und Senior entsteht erst gar nicht.

Architektur schlägt Implementierung

Das Identifizieren und Beheben einzelner Lücken automatisiert sich weg. Was bleibt, ist die Architektur. “Eine AI sagt immer Ja zu allen Ideen.” Also muss der Mensch entscheiden, was das Produkt ist, wer die Kunden sind und wo die Grenzen liegen. Aus dieser Intention folgt das Threat Model, also die Frage, welche Angriffsszenarien überhaupt entstehen können. Wer das als Dokumentation festhält, hilft damit auch der KI, effizienteren und sichereren Code zu schreiben.

Sein praktischer Rat für alle, die gerade lernen: die KI in den sokratischen Dialog nehmen, statt sich bedienen zu lassen. “Bevor ich das jetzt deploye, frag mich mal nach dem, was wir gerade gebaut haben.”

Taste, Craft und die KI-freie Stunde

Bei GitHub haben Entwickler praktisch unbegrenzt Tokens und dürfen mit den Modellen machen, was sie wollen. In Meetings gilt das Gegenteil. “Dann möchte ich da auf den Slides oder dem Dokument nichts von AI lesen.” Die gemeinsame Stunde ist für die Entscheidungen da, die Menschlichkeit brauchen: Was wollen wir tun, wer sind unsere Kunden, wo sind die Grenzen, wie sieht die Architektur aus.

Der CPO nennt das Taste und Craft. Designer schieben keine Pixel mehr, sondern entscheiden, welcher von vielen Agenten-Entwürfen weiterverfolgt wird. Die erfolgreichsten Teams stellt er sich deshalb unabhängig von Jobtiteln und Leetcode zusammen, mit Menschen, die effektiv zusammenarbeiten und eine gemeinsame Vision umsetzen können.

Souveränität ist ein Geschäftsrisiko

Digitale Souveränität ist für ihn nicht nur Politik. Wer sein Startup auf einen KI-Anbieter baut, sollte einkalkulieren, was passiert, wenn dieser Anbieter morgen ausfällt oder die Preise ändert. Dazu kommt ein Muster, das er kommen sieht: Die großen Anbieter schauen sich an, mit welchen Use Cases Geld verdient wird, und grenzen sie als eigene Produkte ab, etwa dedizierte Cyber-Modelle mit eigenem Preis und eigenem Vertrieb. Wer genau in diesem Vertical baut, konkurriert plötzlich mit seiner eigenen Infrastruktur.

Wie schnell die Nachfrage wächst, macht er an einer Zahl fest: GitHub hat in zwei Wochen mehr als 250 Petabyte zusätzlichen Speicher eingebaut, dazu ein paar Millionen CPU-Kerne und GPUs. Und selbst das reicht nicht, um den Bedarf dieses Jahres zu decken. Die Entwicklungsgeschwindigkeit liegt beim 14- bis 20-fachen von 2023.

Seine Prognose für die nächste Phase: weg von mehr Code, hin zu weniger. “Mehr Code ist mehr Risiko.” Wenn ein Produkt zehnmal so viel Code hat, versteht es niemand mehr, obwohl man Teile davon verstehen muss, allein wegen Datenschutz und anderen Gesetzen.

Sein Rapid-Fire für 2036

Eine KI darf 2036 nicht allein deployen, schon aus rechtlichen Gründen. Eine eigene KI-Sicherheitsabteilung hält er für falsch, das sei wie die Innovationsabteilung, “da geht Innovation hin zum Sterben”. KI verstärkt alles, die Extreme werden extremer. Haften soll der, der den Agenten losgelassen hat. Passwörter oder Biometrie? Passkeys. Und die wertvollste Fähigkeit 2036 ist für ihn, einen eigenen Point of View zu haben, weil eine KI nie A oder B sagt, sondern immer A, vielleicht B, vielleicht C. Alle Antworten und wie sie zu denen der anderen Gäste stehen im Thesen-Netz.

Das ganze Gespräch: Folge 08 mit Pierre Tempel.