Wenn KI zum Sicherheitsrisiko wird – und trotzdem alle investieren
Wie verändert KI unseren Alltag – auch da, wo wir es nicht merken? Warum diskutieren Tech-Konzerne über Ethik, aber handeln selten danach? Und wie echt ist noch echt, wenn selbst Support-Chatbots zu Komplizen werden?
Der KI-Boom kennt keine Pause: Milliarden fließen in neue Chips und Rechenzentren, während gleichzeitig Sicherheitslücken offengelegt und Klagen eingereicht werden. Zwischen Wachstumswahn und Kontrollverlust zeichnet sich ein Muster ab, das nachdenklich stimmt – und trotzdem niemanden zu bremsen scheint.
Forschung & Entwicklung
Alphabet sammelt 80 Milliarden Dollar für den KI-Wettlauf ein
Google-Mutter Alphabet greift tief in die Trickkiste der Kapitalmarkt-Finanzierung: 80 Milliarden Dollar sollen über Aktienemissionen und Investments zusammenkommen, um die KI-Infrastruktur massiv auszubauen. Mit im Boot: Berkshire Hathaway, Warren Buffetts Investment-Vehikel, das mit einem Milliardeninvestment zeigt, dass selbst konservative Anleger an die KI-Zukunft glauben. Das Geld fließt vor allem in Rechenzentren und Rechenleistung – die unsichtbaren Kraftwerke hinter ChatGPT, Gemini und Co.
80 Milliarden Dollar – das ist mehr, als manche Länder für ihr gesamtes Jahresbudget ausgeben. Die Frage ist nur: Wird damit die nächste industrielle Revolution finanziert oder die teuerste Blase der Tech-Geschichte aufgepumpt?
Quelle: Handelsblatt Tech
Wie Hacker Metas KI-Support austricksten – erschreckend einfach
Manchmal ist ein Chatbot zu hilfsbereit. Hacker haben Metas KI-gestützten Support-Bot genutzt, um prominente Instagram-Konten zu kapern – und das Ganze war laut Recherchen von 404 Media „schockierend einfach“. Die Angreifer fragten den Bot einfach höflich, ob er die E-Mail-Adresse des Kontos ändern könne, nutzten ein VPN, um ihre Identität zu verschleiern, und voilà: Zugriff gewährt. Videos dieser Methode kursieren mittlerweile in Hacker- und Sicherheitsforscher-Gruppen auf Telegram.
Der Vorfall zeigt ein fundamentales Problem: KI-Systeme sind darauf trainiert, hilfreich zu sein – nicht, misstrauisch zu sein. Wenn wir Maschinen beibringen, Kundenanfragen möglichst reibungslos zu bearbeiten, schaffen wir gleichzeitig neue Angriffsflächen. Meta hat das System mittlerweile angepasst – aber wie viele ähnliche Schwachstellen schlummern noch in anderen automatisierten Systemen?
Quelle: Ars Technica AI
Deutschlands Digitalminister will europäisches Spitzenmodell „Mythos“
Digitalminister Wildberger macht auf der Tech-Konferenz Druck: Europa brauche ein eigenes sogenanntes Frontier-Modell – also ein KI-System auf Augenhöhe mit GPT-4 oder Claude. Der Arbeitstitel: „Mythos“. Talent und Forschung seien vorhanden, nur bei der Rechenkapazität hapere es noch. Staatliche Unterstützung beim Aufbau von Rechenzentren schließt der Minister ausdrücklich nicht aus. Seine Botschaft: Sicherheit bedeute nicht nur Militär, sondern auch technologische Souveränität.
Ein europäisches Spitzenmodell klingt gut – aber reicht es, wenn es erst 2026 oder später kommt, während amerikanische und chinesische Modelle längst den Markt dominieren? Oder ist es gerade deshalb wichtig, weil Europa sonst für immer in der zweiten Liga spielt? „Mythos“ als Name jedenfalls setzt hohe Erwartungen.
Quelle: Handelsblatt Tech
Modelle & Unternehmen
Nvidia will mit KI-Agenten-PCs den 200-Milliarden-CPU-Markt erobern
Bisher war Nvidia vor allem für seine Grafikkarten bekannt, später für seine KI-Chips in Rechenzentren. Jetzt nimmt der Konzern den klassischen PC-Prozessormarkt ins Visier – und zwar mit speziellen Chips für sogenannte KI-Agenten-PCs. Zusammen mit Microsoft, Dell und HP bringt Nvidia Computer auf den Markt, die dank lokaler KI-Agenten – also KI-Assistenten, die direkt auf dem Gerät laufen – alltägliche Aufgaben übernehmen sollen. Der traditionelle CPU-Markt ist 200 Milliarden Dollar schwer, und Nvidia will ein Stück vom Kuchen.
Die Idee klingt verlockend: Ein PC, der wirklich mitdenkt, Termine plant, E-Mails vorsortiert und Recherchen übernimmt. Aber die große Frage bleibt: Wollen wir wirklich, dass ein KI-Agent permanent Zugriff auf unsere Daten hat – oder ist das der nächste Schritt zur totalen Überwachung durch Technik, die wir selbst gekauft haben?
Quelle: TechCrunch AI
Chinesische Militär-Unis wollen Nvidias mächtigste China-Chips
Mindestens sieben chinesische Universitäten mit engen Verbindungen zum Militär und zur Rüstungsindustrie versuchen, Zugang zu Nvidias H200-Chips zu bekommen – den leistungsstärksten KI-Prozessoren, die die USA überhaupt noch nach China exportieren dürfen. Das zeigt eine Auswertung von Beschaffungsunterlagen durch Bloomberg. Die H200-Chips sind zwar abgeschwächt im Vergleich zu dem, was Nvidia in den USA verkauft, aber immer noch leistungsfähig genug für anspruchsvolle KI-Anwendungen.
Hier prallen zwei Welten aufeinander: Einerseits will die US-Regierung verhindern, dass China militärisch relevante KI-Technologie bekommt. Andererseits will Nvidia als Unternehmen Geld verdienen – und der chinesische Markt ist riesig. Am Ende bleibt die Frage: Lassen sich wirtschaftliche Interessen und Sicherheitspolitik überhaupt noch trennen?
Quelle: Bloomberg Technology
Florida verklagt OpenAI wegen verheimlichter Sicherheitsrisiken
Der US-Bundesstaat Florida macht ernst: Generalstaatsanwalt Ashley Moody verklagt OpenAI und dessen CEO Sam Altman wegen vorsätzlicher Täuschung. Der Vorwurf: Das Unternehmen habe interne Warnungen vor Sicherheitsrisiken ignoriert, Nutzer über Gefahren im Dunkeln gelassen und insbesondere Kinder gefährdet. Es ist die erste Klage dieser Art in den USA – und sie könnte Signalwirkung haben. OpenAI weist die Vorwürfe zurück und verweist auf umfangreiche Sicherheitsmaßnahmen.
Interessant ist, dass ausgerechnet ein konservativer Bundesstaat wie Florida vorangeht. Die Klage zeigt: Das Unbehagen gegenüber unkontrollierter KI-Entwicklung zieht sich quer durch alle politischen Lager. Vielleicht ist das der Wendepunkt, an dem „Move fast and break things“ nicht mehr als Ausrede durchgeht – vor allem, wenn das Zerbrochene Menschenleben betrifft.
Quelle: Handelsblatt Tech
Gesellschaft & Politik
KI und Sensoren machen Batterieproduktion intelligenter
Die Batteriefabrik der Zukunft ist digital – und das Fraunhofer-Institut für Techno- und Wirtschaftsmathematik (ITWM) arbeitet daran, sie noch intelligenter zu machen. Forschende entwickeln Simulationen, die Herstellungsprozesse virtuell abbilden, bevor sie in der Realität umgesetzt werden. Gleichzeitig überwachen intelligente Sensoren die Produktion in Echtzeit und messen wichtige Parameter. Das Ziel: stabilere, leistungsstärkere Batterien in kürzerer Zeit.
Batterien sind das Nervensystem der Energiewende – ohne leistungsfähige Speicher keine E-Autos, keine erneuerbaren Energien im großen Stil. Dass KI nun hilft, bessere Batterien schneller zu bauen, ist eine jener stillen Revolutionen, die niemand mitbekommt – bis plötzlich alles funktioniert.
Quelle: Fraunhofer
Weitere KI-News
BYD will bei Unfällen mit autonomen Autos zahlen – eine Kampfansage an Tesla
Der chinesische Autobauer BYD macht ein ungewöhnliches Angebot: Bei bestimmten Unfällen mit selbstfahrenden Autos will das Unternehmen die Kosten übernehmen. Das ist nicht nur ein marketingstarkes Vertrauenssignal, sondern auch eine direkte Herausforderung an Elon Musk und Tesla, die bisher keine solche Garantie abgeben. BYD setzt damit auf eine neue Strategie: Statt nur über Technik zu reden, übernimmt man Verantwortung – zumindest teilweise.
Ob das Angebot aufgeht, hängt vom Kleingedruckten ab. Aber die Botschaft ist klar: Wer autonomes Fahren verkauft, muss auch dafür geradestehen. Vielleicht ist das der Anfang einer neuen Ära, in der Tech-Firmen nicht mehr nur Features verkaufen, sondern auch Haftung übernehmen.
Quelle: Gizmodo
Wenn KI den Abzug drückt – wer haftet für die Toten?
Großbritannien erwägt ernsthaft, KI-Systeme einzusetzen, die tödliche Entscheidungen ohne direkte menschliche Freigabe treffen können. Das wirft eine der fundamentalsten Fragen der KI-Ethik auf: Wer trägt die Verantwortung, wenn eine Maschine tötet? Der Programmierer? Der Kommandeur? Die Regierung? Oder niemand – weil es ein „Systemfehler“ war?
Diese Diskussion ist kein Science-Fiction mehr. Autonome Waffensysteme existieren bereits, und die Frage nach der Verantwortung wird immer drängender. Wenn wir Maschinen das Recht geben zu töten, müssen wir vorher klären, wer dafür ins Gefängnis geht – sonst schaffen wir eine Welt, in der niemand mehr zur Rechenschaft gezogen werden kann.
Quelle: Ai-Ai-Oh