KI auf der Überholspur – aber wer hält die Leitplanken fest?
Wie viel Wahrheit steckt in den Antworten unserer KI-Modelle – und wann wird’s gefährlich? Wer kontrolliert eigentlich die Kontrolleure der KI?
Von Sicherheitsforschung über Chip-Tracking bis hin zu knallharten Faktenchecks für Sprachmodelle: Heute geht’s um die Frage, wie wir der KI nicht nur beibringen, zu denken – sondern auch, sich an die Wahrheit zu halten. Ein Blick hinter die Kulissen der KI-Giganten und ihrer neuen Allianzen.
Forschung & Entwicklung
DeepMind und Großbritannien bündeln Kräfte für sichere KI
DeepMind, Googles KI-Schmiede, vertieft ihre Zusammenarbeit mit dem britischen KI-Sicherheitsinstitut (AISI). Ziel: Risiken frühzeitig erkennen, Modelle robuster machen, Missbrauch verhindern. Das klingt nach einer Tech-Romanze mit Sicherheitsgarantie – doch wer setzt am Ende die Standards? Spannend: Die Partnerschaft könnte auch als Blaupause für andere Länder dienen, die ihre KI-Regulierung nicht nur auf dem Papier haben wollen.
Quelle: DeepMind
Google deckt auf: Warum viele Sprachmodelle bei Fakten versagen
Mit dem neuen Benchmark „FACTS“ will Google die Fakten-Treue generativer KI systematisch prüfen – und stößt dabei auf eine bittere Erkenntnis: Viele Modelle landen bei gerade mal 70 % Korrektheit. Klingt viel? In einer Welt, in der KI Verträge schreibt, Diagnosen unterstützt und Nachrichten zusammenfasst, ist das ein alarmierender Wert. „Faktenlücke“ statt Wissensvorsprung – wer füllt sie?
Quelle: VentureBeat AI
Modelle & Unternehmen
Nvidia will KI-Chips mit GPS gegen Schmuggel schützen
Hightech mit eingebautem Wachhund: Nvidia plant eine Tracking-Funktion für seine neuesten KI-Chips, um illegale Exporte in sanktionierte Länder zu verhindern. Die Chips sollen sich künftig selbst „melden“ können – eine Art digitales Ortungsgerät für Rechenzentren. Klingt nützlich, wirft aber Fragen auf: Wer kontrolliert, wohin ein Chip „gehört“ – und wie transparent bleibt das für die Nutzer?
Quelle: Heise KI
Google befördert den Architekten seiner KI-Infrastruktur
Google rüstet sich für den KI-Wettlauf – und schickt Amin Vahdat, den Mann hinter den Rechenzentren, direkt ins Maschinenraum-Management. Als neuer Chief Technologist für KI-Infrastruktur soll er die Hardware-Basis für Modelle wie Gemini und Co. weiterentwickeln. Man könnte sagen: Während alle über Prompts reden, baut er die Server, auf denen Prompts überhaupt möglich sind.
Quelle: TechCrunch AI
Generative KI
Fakten statt Fantasie: Googles neuer Test für Sprachmodelle
Generative KI kann Geschichten erzählen, Gedichte schreiben – aber wie sieht’s mit Fakten aus? Google hat mit „FACTS“ einen neuen Maßstab gesetzt, um genau das zu prüfen. Dabei geht es um Fragen wie: Kann ein Sprachmodell korrekt auf Unternehmensdaten zugreifen? Oder irrt es sich in Zahlen und Zitaten? Das Ergebnis: Viele Modelle glänzen bei Kreativität – aber stolpern über die Realität. Ein Weckruf für alle, die KI in sensiblen Bereichen einsetzen wollen.
Quelle: VentureBeat AI