So autonom wie möglich, so begrenzt wie nötig

KI terraformt grad die Unternehmen, und zwar schneller, als die meisten Sicherheitsarchitekturen des jemals aushalten hätten sollen.

Unsere Schutzmechanismen san um Menschen und Anwendungen herum g’wachsen: Einer meldet sich an, die Software macht des, wofür s’ g’schrieben worden is, und mia ziehen um beides a Grenz. Agenten passen da ned nei. Die handeln im Auftrag von wem anders, rufen Werkzeuge auf und geben Arbeit immer öfter an andere Agenten weiter – jeder kriegt bloß an Teil von der Evidenz und entscheidet selber, ob er was tut.

Des Risiko, des von Agenten ausgeht, zieht sich heut über die ganze Länge vom Stack und die ganze Tiefe von der Delegationskette – a schwierigere Form als die, für die die meisten von unsere Kontrollen baut worden san.

Die Länge, weil a einziger Agent Prozesse, Daten, Anwendungen, Modelle und Infrastruktur auf oan Schlag anlangen ko. Die Tiefe, weil jede Übergabe a Stell is, wo die Absicht abdriftet und die Verantwortung dünner wird. A Schutz, der bloß auf oa Ebene oder oan Schritt schaut, siecht halt nur an Teil vom Bild.

Unter dem Ganzen liegt a Frag von der Ontologie: Was gibt’s überhaupt im Unternehmen, und wie hängt des zam? A Agent ko nur a Grenz respektieren, die er aa benennen ko. Wenn mia uns ned drauf g’einigt ham, was a Asset is, was a Identität, was sensible Daten san und wer überhaupt handeln derf, dann bleiben unsere Regeln schwammig, und jede Übergabe legt s’ wieder anders aus. Genauso wenig dürf ma zulassen, dass a Agent durcheinanderbringt, was er beobachtet hat, was er sich zamgreimt hat und was wirklich Sache is. Wie sicher er sich is, sagt uns selten, was was is.

Die Disziplin, die’s dafür braucht, kennt ma eigentlich eh: so autonom wie möglich, so begrenzt wie nötig.

So hat Architektur scho immer funktioniert: klare Grenzen, und drinnen echte Freiheit. Bei Agenten hoaßt des: festlegen, was jeder derf, aufschreiben, was er wirklich g’macht hat, und sei Tun an der Evidenz prüfen – ned an dem, was er selber davon verzählt. Autonomie verdient sich ihren Platz, wenn ma s’ erklären und verteidigen ko.