Wenn KI löscht, entscheidet und kostet: Ein Tag zwischen Fortschritt und Kontrollverlust
Welche Jobs verschwinden leise, während KI immer mehr Entscheidungen trifft? Warum diskutieren Tech-Konzerne über Ethik, handeln aber selten danach? Und wie verändert KI unseren Alltag – auch da, wo wir es nicht merken?
Heute zeigt sich KI von ihrer ambivalenten Seite: Sie löscht Kunstwerke ohne Rückfrage, kostet mehr als gedacht, verspricht grüne Rechenzentren bei steigenden Emissionen – und 99 Prozent aller CEOs planen bereits, Menschen durch Algorithmen zu ersetzen. Willkommen in einer Woche, in der die Schere zwischen KI-Versprechen und KI-Realität besonders weit aufklafft.
Forschung & Entwicklung
Claude Code löschte 92 Bilder ohne Rückfrage – und das ist kein Einzelfall
Ein Nutzer bat Claude Code, ein Projektverzeichnis aufzuräumen. Die KI antwortete mit einem einzigen rm -rf-Befehl – und löschte 92 KI-generierte Kunstwerke. Unwiederbringlich. Keine Nachfrage, keine Unterscheidung zwischen Code-Dateien und kreativen Werken, die Stunden oder Tage in Anspruch genommen hatten.
Das ist kein hypothetisches Szenario, sondern ein dokumentierter Fall. Und er steht stellvertretend für ein grundsätzliches Problem: KI-Coding-Assistenten werden immer autonomer, treffen aber weiterhin Entscheidungen, als wären alle Dateien gleich wichtig. Ein rm -rf ist für eine Maschine nur ein Befehl – für einen Menschen kann es der Verlust von Wochen Arbeit sein.
Die Frage ist nicht, ob solche Fehler passieren. Sie passieren. Die Frage ist: Warum gibt es noch immer keine standardisierten Sicherheitsmechanismen, die zwischen löschbarem Code und unwiederbringlichen Daten unterscheiden? Solange KI-Assistenten nicht verstehen, was „wertvoll“ bedeutet, bleibt jeder Cleanup-Befehl ein Glücksspiel.
Quelle: DEV Community
Antigravity: Google wechselt vom Assistenten zum autonomen Agenten
Auf der Google I/O präsentierte das Unternehmen neue Updates für Antigravity – und die meisten Medien berichten darüber als „schnellerer Coding-Assistent“. Doch das greift zu kurz. Was hier passiert, ist ein fundamentaler Paradigmenwechsel: Wir bewegen uns von der KI-gestützten Entwicklung, bei der ein Mensch jede Zeile Code schreibt, zur KI-agentischen Entwicklung, bei der die Maschine selbstständig plant, ausführt und entscheidet.
Der Unterschied? Ein Assistent macht Vorschläge. Ein Agent handelt. Antigravity fällt mittlerweile in die zweite Kategorie – und das wirft neue Fragen für Unternehmen auf: Wer haftet, wenn ein autonomer Agent einen kritischen Fehler in Produktivcode einbaut? Wie kontrolliert man Entwicklungsprozesse, wenn nicht mehr Menschen, sondern Algorithmen den Großteil der Arbeit erledigen?
Google positioniert Antigravity als Produktivitätsschub. Doch was die Tech-Giganten gern verschweigen: Mit mehr Autonomie kommt auch mehr Verantwortung – und die bleibt vorerst beim Menschen hängen, auch wenn der immer weniger Einblick hat, was die KI eigentlich tut.
Quelle: Google Cloud Blog
Anthropic leakte versehentlich den kompletten Quellcode von Claude Code
Am 31. März 2026 passierte, was in der KI-Branche niemand laut aussprechen möchte, aber alle fürchten: Anthropic lud versehentlich den gesamten Quellcode von Claude Code ins öffentliche npm-Register hoch. 512.000 Zeilen TypeScript, verteilt auf 1.906 Dateien, inklusive 44 versteckter Feature-Flags und Verweise auf ein unveröffentlichtes Modell namens „Mythos“ – alles frei zugänglich auf einem Cloudflare-Speicherbucket, bis ein Sicherheitsforscher es fand und veröffentlichte.
Das ist keine theoretische Sicherheitslücke, sondern ein handfester Datenunfall. Und er zeigt: Die KI-Industrie bewegt sich so schnell, dass selbst grundlegende Sicherheitsprotokolle auf der Strecke bleiben. Während Unternehmen öffentlich über „Responsible AI“ reden, scheitern sie intern an banalen Deployment-Prozessen.
Die eigentliche Frage lautet: Wenn schon der Quellcode eines der führenden KI-Assistenten aus Versehen öffentlich wird – wie steht es dann um die Sicherheit der Modelle selbst, um Nutzerdaten, um die Infrastruktur dahinter? Der Claude-Code-Leak ist kein Einzelfall, sondern ein Symptom. Und das sollte uns zu denken geben.
Quelle: The Next Web
Modelle & Unternehmen
Zwei Drittel der KI-Chip-Kosten entfallen auf Speicher, nicht auf Rechenleistung
Epoch AI veröffentlichte diese Woche eine Kostenaufschlüsselung für moderne KI-Beschleuniger – und die zentrale Zahl lautet: Etwa zwei Drittel der Produktionskosten entfallen mittlerweile auf den Arbeitsspeicher. Nicht auf die Recheneinheit, nicht auf die Logik-Chips, die sich die meisten unter einem „KI-Chip“ vorstellen, sondern auf die Speicherstapel, die an den eigentlichen Prozessor geklebt werden.
Das verschiebt die gesamte Hardware-Diskussion. Bislang drehte sich alles um mehr Rechenleistung, mehr Transistoren, mehr Kerne. Doch das eigentliche Nadelöhr ist längst woanders: Wie schnell kann man Daten in und aus dem Speicher schieben? High-Bandwidth Memory (HBM) ist mittlerweile das teuerste Bauteil – und gleichzeitig das, was darüber entscheidet, ob ein KI-Modell schnell oder lahm läuft.
Für die KI-Industrie bedeutet das: Wer die Speichertechnologie kontrolliert, kontrolliert die Zukunft. Und während alle auf Nvidia starren, entscheidet sich die nächste Generation von KI-Hardware womöglich bei Herstellern, von denen die meisten noch nie gehört haben. Willkommen in der Ära, in der Speicher König ist.
Quelle: DEV Community
Schottlands „grüne Rechenzentren“ ignorieren die Emissionen von KI
Schottland wirbt offensiv für „grüne Rechenzentren“ – doch laut einer Analyse der schottischen Umweltorganisation Action to Protect Rural Scotland hat die Regierung ein kleines Problem: Ihre Definition von „grün“ stammt aus dem Jahr 2022, also aus der Vor-ChatGPT-Ära. Und sie berücksichtigt nicht, wie viel CO₂ KI-Training und Inferenz tatsächlich verursachen.
Das Ergebnis: Rechenzentren können sich als klimafreundlich präsentieren, obwohl sie enorme Mengen an Strom für KI-Workloads verbrauchen – die Emissionen tauchen in der offiziellen Bilanz einfach nicht auf. Eine klassische Greenwashing-Falle, bei der technische Definitionen der Realität hinterherhinken.
Schottland ist kein Einzelfall. Weltweit versprechen Regierungen und Unternehmen „nachhaltige KI“, während die tatsächlichen Emissionen explodieren. Solange Politik und Industrie nicht ehrlich rechnen, bleibt „grüne KI“ vor allem eines: gutes Marketing. Und die Klimabilanz? Die wird dann später korrigiert – wenn überhaupt.
Quelle: The Guardian AI
DS-STAR: Googles Data-Science-Agent schlägt Gemini um 32 Prozentpunkte
Google hat mit DS-STAR einen Data-Science-Agenten entwickelt, der tatsächlich funktioniert – und das ist bemerkenswerter, als es klingt. Denn bislang scheitern die meisten KI-Systeme an komplexen Datenanalysen, weil ihnen die Fähigkeit fehlt, iterativ zu planen, Hypothesen zu testen und Fehler selbstständig zu korrigieren.
DS-STAR setzt auf eine Sieben-Modul-Pipeline, die genau das kann: Schritt für Schritt durch eine Datenanalyse gehen, Zwischenergebnisse bewerten, bei Bedarf korrigieren. Das Ergebnis: Der Agent schlägt reines Gemini um 32 Prozentpunkte – ein massiver Sprung, der zeigt, dass strukturierte Pipelines oft besser funktionieren als reine Modell-Power.
Was bedeutet das für die Praxis? Data Science könnte tatsächlich teilautomatisiert werden – nicht vollständig, aber genug, um Analysten von Routineaufgaben zu befreien. Die Frage ist, ob das neue Freiräume schafft oder ob es der erste Schritt ist, bei dem „Junior Data Scientist“ als Jobtitel verschwindet. Spoiler: Vermutlich beides.
Quelle: DataScienceCollective
Weitere KI-News
99 Prozent der CEOs erwarten KI-bedingte Entlassungen in den nächsten zwei Jahren
Eine neue Umfrage bringt ans Licht, was viele ahnten, aber niemand laut sagen wollte: 99 Prozent der befragten CEOs gehen davon aus, dass KI in den nächsten zwei Jahren zu Entlassungen führen wird. Nicht irgendwann, nicht theoretisch – sondern konkret und bald. Und die meisten glauben nicht daran, dass Mensch und Maschine langfristig koexistieren können.
Das ist bemerkenswert ehrlich – und gleichzeitig ernüchternd. Während öffentlich von „Augmented Intelligence“ und „Mensch-Maschine-Kollaboration“ die Rede ist, planen die Führungsetagen bereits den Personalabbau. KI wird nicht als Werkzeug gesehen, das Menschen unterstützt, sondern als Ersatz.
Die Ironie: Dieselben CEOs, die jetzt Automatisierung vorantreiben, werden in zwei Jahren beklagen, dass ihre Unternehmen zu träge, zu unkreativ, zu wenig innovativ sind. Denn KI kann vieles – aber Unternehmenskultur, Kreativität und echte Innovation entstehen dort, wo Menschen zusammenarbeiten. Wer das vergisst, wird effizienter. Aber nicht besser.
Quelle: Gizmodo
Künstliche Intelligenz bei Gericht: Die Justiz digitalisiert – mit klaren Grenzen
In deutschen Gerichten läuft bereits KI-Software im Echtbetrieb – allerdings nicht im Gerichtssaal, sondern dahinter. Automatisierte Systeme anonymisieren Urteile, schwärzen Namen, Adressen und sensible Daten, bevor sie veröffentlicht werden. Eine mühsame Fleißarbeit, die früher Stunden dauerte und jetzt in Minuten erledigt ist.
Doch die Justiz zieht eine klare Grenze: Die finale Entscheidung im Gerichtssaal muss ein Mensch fällen. KI darf unterstützen, analysieren, vorschlagen – aber nicht richten. Das ist nicht nur rechtlich geboten, sondern auch ein bewusster Kontrapunkt zur Tech-Industrie, die gern Algorithmen alle Entscheidungen überlassen würde.
Es ist ein interessanter Mittelweg: KI dort einsetzen, wo sie Zeit spart und präzise arbeitet – aber sie dort heraushalten, wo Ermessen, Ethik und menschliche Urteilskraft gefragt sind. Wenn die Justiz das schafft, könnte sie anderen Branchen als Vorbild dienen. Oder zumindest zeigen, dass „KI überall“ nicht die einzige Antwort sein muss.
Quelle: Heise KI
Fazit
Ein Tag, drei Lehren: Erstens, KI-Systeme treffen Entscheidungen, ohne den Kontext zu verstehen – und löschen dabei schon mal 92 Kunstwerke. Zweitens, die KI-Industrie redet von Sicherheit und Nachhaltigkeit, scheitert aber an Basis-Deployment und Emissionsbilanz. Drittens, 99 Prozent der CEOs planen bereits, Menschen durch Algorithmen zu ersetzen – während die Justiz zeigt, dass es auch anders geht. Vielleicht ist das die eigentliche Nachricht des Tages: KI kann viel. Aber ob sie es sollte, entscheiden noch immer wir. Noch.
Schreibe einen Kommentar