KI am Scheideweg: Zwischen Verboten, Rekorden und ethischen Grenzen
Wie viel Kontrolle brauchen wir über KI – und wie viel über uns selbst? Wer gewinnt das Rennen um die KI-Vorherrschaft, wenn selbst die „gefährlichsten“ Modelle einfach veröffentlicht werden? Und wie verändert KI unseren Alltag – vom Streifenwagen bis zur Autobahn?
Während Kanada Jugendliche vor KI-Chatbots schützen will, schickt OpenAI sein stärkstes Modell ins Rennen – mit mehr Halluzinationen als die Konkurrenz. Gleichzeitig gibt Anthropic ein „zu gefährliches“ KI-Modell frei, und britische Polizisten werden von KI überwacht. Willkommen in einer Woche, in der die Grenzen zwischen Innovation und Überwachung, Fortschritt und Verantwortung verschwimmen.
Forschung & Entwicklung
Kanada sperrt die Chatbots aus – Manitoba verbietet KI für Jugendliche
Die kanadische Provinz Manitoba macht Ernst: Als erste Region des Landes will sie Social Media und KI-Chatbots für Kinder und Jugendliche verbieten. Was zunächst nach digitalem Protektionismus klingt, spiegelt wachsende Sorgen wider – von Datenschutz über manipulative Algorithmen bis hin zu psychischen Auswirkungen. Während andere Regierungen noch über Altersgrenzen diskutieren, zieht Manitoba die Notbremse.
Die Frage ist allerdings: Schützt man Jugendliche wirklich, wenn man ihnen den Zugang verweigert? Oder züchtet man eine Generation heran, die später unvorbereitet auf KI-durchdrungene Arbeitswelten trifft? Ein digitales Übergangsritual für 18-Jährige könnte ja interessant werden: „Heute wirst du erwachsen – hier ist dein ChatGPT-Zugang!“
Quelle: Reddit Technology
DeepSeek V4: Eine Million Tokens im Gedächtnis – mit einem Zehntel des Speicherbedarfs
DeepSeek hat mit Version 4 einen bemerkenswerten technischen Durchbruch vorgestellt: Das Modell kann eine Million Tokens verarbeiten – das entspricht etwa 750.000 Wörtern oder mehreren Romanen – und benötigt dabei nur einen Bruchteil des Arbeitsspeichers herkömmlicher Modelle. Wie geht das? Durch clevere Architektur-Tricks, die nicht jedes Token permanent im teuren GPU-Speicher vorhalten müssen.
Hinzu kommen drei verschiedene „Denkmodi“, zwischen denen das Modell je nach Aufgabe wechseln kann. Erste Tests zeigen: Das System funktioniert tatsächlich, auch wenn es bei den maximalen Token-Grenzen gelegentlich ins Schwitzen gerät. DeepSeek bleibt damit ein spannender Underdog im KI-Rennen – vor allem, weil das chinesische Unternehmen mit deutlich weniger Ressourcen als OpenAI oder Google beachtliche Ergebnisse erzielt. Man könnte sagen: Hier wird nicht mit Rechenpower geprahlt, sondern mit Effizienz.
Quelle: AI Advances – Medium
Bosch bringt Level 3 auf die Straße – Hände weg vom Lenkrad, rechtlich abgesichert
Autonomes Fahren auf Level 3 bedeutet: Das Auto übernimmt komplett, der Fahrer darf sich anderen Dingen widmen – Zeitung lesen, E-Mails checken, dösen. Aber nur unter bestimmten Bedingungen und mit der Möglichkeit, jederzeit die Kontrolle zurückzunehmen. Bosch arbeitet an KI-gestützten Systemen und redundanten Sicherheits-Architekturen, die genau das ermöglichen sollen – zunächst auf Autobahnen, perspektivisch auch im städtischen Schnellverkehr.
Das Besondere: Level 3 ist nicht nur eine technische, sondern auch eine juristische Herausforderung. Denn sobald das Auto fährt, haftet der Hersteller. Kein Wunder also, dass Bosch hier auf doppelte und dreifache Absicherung setzt. Die spannende Frage bleibt: Werden wir die gewonnene Zeit wirklich produktiv nutzen – oder einfach nur noch mehr Katzenvideos schauen, diesmal legal auf der Autobahn?
Quelle: Heise Online
Modelle & Unternehmen
Anthropic veröffentlicht sein „gefährlichstes“ Modell – mit Ansage
Claude Mythos heißt das neue KI-Modell von Anthropic, und es kann etwas, das die Entwickler eigentlich beunruhigt: Es findet eigenständig Sicherheitslücken in Software. Im Test entdeckte das Modell eine 17 Jahre alte Schwachstelle im Betriebssystem FreeBSD – völlig autonom. Das klingt nach einem Albtraum für IT-Sicherheitsexperten, denn was für Forschung nützlich ist, könnte auch in den falschen Händen gefährlich werden.
Statt das Modell unter Verschluss zu halten, hat Anthropic einen anderen Weg gewählt: „Project Glasswing“ macht das Modell öffentlich zugänglich – allerdings unter kontrollierten Bedingungen und mit umfangreicher Dokumentation. Die Logik: Nur wenn Sicherheitsforscher weltweit damit arbeiten können, lassen sich die Risiken wirklich verstehen und beherrschen. Ob diese Transparenzstrategie aufgeht oder Pandoras Büchse öffnet, wird sich zeigen. Fest steht: Die Zeiten, in denen „zu gefährlich“ gleichbedeutend mit „geheim“ war, sind vorbei.
Quelle: Predict – Medium
OpenAI und der tragische Fall: Warum wurde die Polizei nicht informiert?
Sam Altman hat sich öffentlich entschuldigt – ein seltener Moment für den OpenAI-Chef. Der Grund: Das Unternehmen hatte den Account einer Nutzerin bereits im Sommer wegen verdächtiger Chat-Inhalte gesperrt, die Behörden aber nicht informiert. Monate später beging dieselbe Person einen Amoklauf. Hätte eine Warnung die Tragödie verhindern können? Diese Frage lässt sich nicht abschließend beantworten, stellt aber ein grundsätzliches Dilemma bloß.
KI-Unternehmen sitzen auf enormen Mengen sensibler Daten. Wann ist eine Warnung gerechtfertigt, wann ein Eingriff in die Privatsphäre? Wo verläuft die Grenze zwischen Datenschutz und öffentlicher Sicherheit? OpenAI steht nun vor der Aufgabe, klare Richtlinien zu schaffen – und damit möglicherweise einen Präzedenzfall für die gesamte Branche zu setzen. Die Technologie entwickelt sich schneller als unsere ethischen Rahmenbedingungen. Dieser Fall zeigt schmerzhaft, wie teuer diese Verzögerung sein kann.
Quelle: t3n Magazine
GPT-5.5 ist da: Spitzenplatz, höherer Preis, mehr Halluzinationen
OpenAI hat mit GPT-5.5 die Benchmark-Führung zurückerobert – zumindest auf dem Papier. Das neue Modell performt in Standardtests besser als die Konkurrenz und kostet 20 Prozent mehr als sein Vorgänger. Soweit die guten Nachrichten. Die schlechte: GPT-5.5 halluziniert häufiger als Modelle von Anthropic oder Google – erfindet also öfter Fakten, die nicht stimmen.
Das ist das Paradox der aktuellen KI-Entwicklung: Mehr Leistung bedeutet nicht automatisch mehr Verlässlichkeit. Für kreative Aufgaben mag das verschmerzbar sein, für faktische Recherchen wird es problematisch. Dennoch: Im Vergleich der proprietären Modelle bietet GPT-5.5 wahrscheinlich immer noch das beste Preis-Leistungs-Verhältnis – vorausgesetzt, man prüft die Ausgaben kritisch nach. Mit anderen Worten: Die KI wird immer besser darin, selbstbewusst Unsinn zu erzählen. Ein sehr menschlicher Zug, wenn man so will.
Quelle: The Decoder
Weitere KI-News
Die Maschine hinter der Maschine: Warum ein niederländisches Unternehmen die KI-Zukunft bestimmt
Tech-Giganten wollen Hunderte Milliarden in KI-Infrastruktur stecken – und alle sind abhängig von einem einzigen Unternehmen, von dem die meisten Menschen noch nie gehört haben: dem niederländischen Chip-Ausrüster ASML. Die Firma baut die einzigen Maschinen weltweit, die extrem ultraviolettes Licht (EUV) nutzen, um die winzigsten Strukturen auf Computerchips zu ätzen. Ohne ASML keine modernen KI-Chips, ohne KI-Chips keine leistungsfähigen Modelle.
ASML ist damit der unsichtbare Flaschenhals der KI-Revolution. Die Maschinen kosten jeweils über 150 Millionen Euro, wiegen so viel wie ein Jumbojet und sind technische Wunderwerke. Konkurrenz? Fehlanzeige. Das macht das Unternehmen zum vielleicht wichtigsten Player in der gesamten Tech-Industrie – und zu einem geopolitischen Faktor. Denn wer Zugang zu ASML-Technologie hat, bestimmt mit, wer im KI-Rennen mithalten kann.
Quelle: WSJ Tech
Londoner Polizei jagt Regel-Brecher mit Palantir-KI – Hunderte Ermittlungen
Die Metropolitan Police in London hat ein KI-Tool von Palantir eingesetzt, um das eigene Personal zu überwachen – mit durchschlagendem Erfolg. Innerhalb einer Woche wurden Hunderte von Regel-Verstößen aufgedeckt, von unerlaubter Heimarbeit bis hin zu Korruptionsverdacht. Die KI durchforstete dafür interne Daten, Kommunikation und Verhaltensmuster der Beamten.
Das wirft heikle Fragen auf: Ist das die Zukunft der internen Kontrolle – oder der Beginn eines Überwachungsstaats, der bei den eigenen Reihen anfängt? Palantir ist seit jeher umstritten, bekannt für Big-Data-Analysen im Auftrag von Geheimdiensten und Militär. Wenn dieselbe Technologie nun auf Polizisten angewandt wird, entsteht ein doppeltes Dilemma: Wer überwacht die Überwacher – und wer kontrolliert die KI? Eines ist klar: Die Büchse der digitalen Kontrolle ist geöffnet, und niemand weiß, ob sich der Deckel wieder schließen lässt.
Quelle: The Guardian AI
Fazit
KI wird erwachsen – und mit ihr die Konflikte. Während die Technik immer leistungsfähiger wird, stolpern wir kollektiv über die Fragen, die wir viel früher hätten stellen sollen: Wann ist KI zu gefährlich? Wann müssen Unternehmen Behörden informieren? Wie viel Überwachung ist zu viel – auch wenn sie Missstände aufdeckt? Und wann schützt ein Verbot mehr, als es schadet? Die Antworten werden darüber entscheiden, ob KI ein Werkzeug der Befreiung oder der Kontrolle wird. Aktuell sieht es so aus, als könnte sie beides werden – gleichzeitig.