Haya Schulmann

„Dasselbe könnte überall passieren, auch bei uns. OpenAI wollte testen, wie gut eines seiner großen KI-Modelle im Internet recherchieren kann. Die Aufgabe war einfach: Wie viel gibt Australien für Medikamente aus? Diese Information ist öffentlich, und der KI-Agent vermutete die Antwort in einem Statistikportal der australischen Regierung. Dieses Portal hatte allerdings, wie viele an sich öffentliche Webseiten, eine Sperre gegen automatische Abfragen. Der Agent wurde deshalb abgewiesen. Das Portal wird als jahrzehntealtes Altsystem beschrieben, das daher vermutlich eher schlecht abgesichert war. Der Agent fand also einen Weg hinein und konnte sogar nicht-öffentliche Daten lesen und selbst Daten auf einen internen Server schreiben. Der Schaden war nach bisherigem Stand gering, persönliche Daten waren nicht betroffen.“Haya Schulmann: „Dasselbe könnte überall passieren, auch bei uns. #KünstlicheIntelligenz #Cybersecurity #KIRegulierung