Zwischen Wasserschaden-Bots und Akne-Rezepten: Der KI-Alltag wird skurril
Kann KI wirklich vertrauenswürdig genug sein, um medizinische Rezepte auszustellen? Wie viel Sicherheitsrisiko steckt in der Art, wie KI-Agenten miteinander plaudern? Und wer zahlt eigentlich die Klimarechnung für den KI-Boom – in Tonnen Beton?
Heute geht’s quer durch den KI-Garten: von hochwasserfesten Chatbots über leckende Assistenten bis zu Open-Source-Giganten. Schnallt euch an, es wird vielseitig.
Forschung & Entwicklung
Googles Hochwasser-Helfer: Wenn die KI Stimme, Bild und Daten gleichzeitig checkt
Google Cloud zeigt mit einem neuen Blueprint, wie man aus drei spezialisierten Gemini-Modellen, einem festen 8-Schritte-Workflow (ADK steht für „Agent Development Kit“, quasi ein Baukasten für KI-Agenten) und einer Datenbank namens BigQuery eine Art digitalen Schalterbeamten baut. Der soll Hochwasserschäden per Video- und Sprachgespräch aufnehmen – in Echtzeit, zero-trust (also mit maximalem Misstrauen gegenüber jedem Zugriff) und direkt in der Cloud laufend.
Klingt nach Science-Fiction-Bürokratie, ist aber ziemlich clever: Statt stundenlanger Warteschleifen bei der Versicherung soll die KI Fotos vom durchnässten Keller gleich mit Policendaten abgleichen. Die spannende Frage bleibt: Vertrauen wir einer KI mit der Einschätzung, ob unser Hab und Gut wirklich hinüber ist – oder wollen wir da doch lieber einen Menschen mit Gummistiefeln sehen?
Quelle: Google Cloud Blog
Metas Muse-Assistent: Eigene Mitarbeiter trauen dem Braten nicht
Metas neuer KI-Agent Muse soll als persönlicher Assistent fungieren – und dafür jede Menge private Daten sammeln, von Bankkonten bis E-Mail-Archiven. Pikant: Noch vor dem Launch entdeckten Metas eigene Ingenieure eine Sicherheitslücke, durch die Nutzer theoretisch in Metas interne Systeme hätten eindringen können. Offenbar ist selbst die Belegschaft nicht restlos überzeugt, dass ihre eigene Schöpfung dicht hält.
Ein KI-Assistent, der mehr über dich weiß als deine beste Freundin, aber von den eigenen Machern mit Argwohn beäugt wird – das ist schon eine besondere Art von Ironie. Vielleicht sollte „Vertrauen ist gut, Kontrolle ist besser“ auch für Tech-Konzerne gelten, nicht nur für ihre Nutzer.
Quelle: Futurism AI
Das unsichtbare Risiko: Wenn KI-Agenten sich heimlich verplappern
MCP (Model Context Protocol) ist quasi die Sprache, mit der verschiedene KI-Agenten untereinander kommunizieren – vergleichbar mit einem gemeinsamen Funkkanal für Roboter. Das Problem: Google und vier weitere Organisationen mussten in den letzten fünf Monaten Sicherheitslücken in diesem Protokoll eingestehen. Angreifer könnten so einen KI-Agenten dazu bringen, heimlich Datenbanken zu plündern oder sensible Infos nach draußen zu schicken.
Je mehr KI-Agenten eigenständig miteinander reden, desto größer wird die Angriffsfläche – ein bisschen wie ein Büro voller Praktikanten, die sich gegenseitig vertrauliche Unterlagen zuwerfen, ohne zu fragen, wer eigentlich mithört. Vielleicht wird „Agent-Sicherheit“ 2026 das neue große Buzzword, das wir alle noch lernen müssen zu fürchten.
Quelle: Ars Technica AI
Modelle & Unternehmen
Utah lässt KI Akne-Rezepte ausstellen – Pickel-Pillen per Algorithmus
Als erster US-Bundesstaat erlaubt Utah dem Startup Nolla Health, Rezept-Verlängerungen für Akne-Behandlungen automatisiert per KI zu genehmigen – mit nur minimaler Kontrolle durch echte Ärzte. Ein Pilotprojekt soll zeigen, ob das funktioniert.
Medizinische Entscheidungen, die bisher Jahre Ausbildung erforderten, jetzt im Schnelldurchlauf von einem Algorithmus? Bei Akne mag das überschaubar riskant klingen – aber es ist ein Testballon, der zeigt, wohin die Reise geht. Die eigentliche Frage: Wo zieht man die Grenze zwischen „praktisch“ und „notfalls hoffen wir, dass der Bot nicht verwechselt hat“?
Quelle: SiliconANGLE AI
501 Milliarden Parameter: Reflection AI öffnet den Quellcode seines Riesenmodells
Reflection AI hat mit „Beam“ ein Open-Source-Sprachmodell mit 501 Milliarden Parametern vorgestellt – Parameter sind dabei grob gesagt die „Stellschrauben“, mit denen ein KI-Modell lernt, Sprache zu verstehen und zu erzeugen. Das Startup, zuletzt mit 25 Milliarden Dollar bewertet, hatte kürzlich auch einen 6,3-Milliarden-Dollar-Deal mit SpaceX eingefädelt, um Nvidias neueste KI-Hardware zu mieten.
Open Source bei einem Modell dieser Größenordnung ist bemerkenswert – normalerweise bleiben die ganz großen Modelle hinter verschlossenen Firmentüren. Reflection AI wettet offenbar darauf, dass Offenheit langfristig mehr Vertrauen (und Entwickler) bringt als Geheimniskrämerei. Mutig, in einer Branche, die sonst eher am Tresor klebt.
Quelle: SiliconANGLE AI
OpenAI setzt Wasserzeichen in ChatGPT-Texte – für mehr Durchblick in der EU
Um die Vorgaben des EU-KI-Gesetzes (AI Act) zu erfüllen, wird OpenAI Texte von ChatGPT und Codex in Europa künftig mit unsichtbaren Wasser