Zwischen Weltuntergang und Produktupdate: Ein ganz normaler Tag in der KI-Welt
Wie nah sind wir wirklich an der viel beschworenen AGI? Was, wenn aus dem KI-Wettlauf ein KI-Kollaps wird? Und bereiten wir unsere Kinder – und unsere Smartphones – überhaupt auf das vor, was da kommt?
Heute geht es um Propheten und Programmcode: Sam Altman wehrt sich gegen göttliche Vergleiche, ein OpenAI-Sicherheitschef wirft hin, Google baut heimlich einen Käfig für KI-Agenten, und Geoffrey Hinton – der „Pate der KI“ – warnt vor etwas Großem am Horizont. Dazu Politik, Paragrafen und ein Schmuggler mit 300 Millionen Dollar Technik im Gepäck. Schnallt euch an.
Forschung & Entwicklung
Altman winkt ab: „KI ist kein Gott“ – aber ein Sicherheitsrisiko
Sam Altman, Chef von OpenAI, hat genug von der Heiligenverehrung rund um Chatbots. Er warnt ausdrücklich davor, KI-Modellen religiöse oder göttliche Kräfte zuzuschreiben – das sei kein nettes Gedankenspiel, sondern ein handfestes Sicherheitsproblem. Pikant: Noch 2023 schwärmte Altman selbst von einer „magischer Intelligenz im Himmel“ als Ziel seines Unternehmens. Der Anlass für die aktuelle Kehrtwende: Berichte über Treffen von Konkurrent Anthropic mit religiösen Denkern sowie eine Wortmeldung des Papstes zum Thema KI.
Gedanke am Rande: Wenn selbst der Erfinder nicht mehr genau weiß, ob er einen Taschenrechner oder ein Orakel gebaut hat, sollten wir vielleicht alle einen Schritt zurücktreten – und tief durchatmen, bevor wir ChatGPT um Lebensberatung bitten.
Quelle: The Decoder
Google baut heimlich einen Sicherheitskäfig für KI-Agenten in Android
Während wir alle noch darüber diskutieren, ob KI-Chatbots nett oder gruselig sind, bastelt Google längst am nächsten Schritt: autonome KI-Agenten, die eigenständig Aufgaben auf dem Smartphone erledigen. Damit das nicht im Chaos endet, hat der Konzern tief im Android-Betriebssystem eine Art digitalen Sicherheitskäfig eingebaut – ein Testmodus, der verhindern soll, dass die Agenten (zum Beispiel Gemini) unkontrolliert Dinge anstellen, wie Apps löschen oder Online-Käufe tätigen, die niemand wollte.
Einordnung: Praktisch heißt das: Bald soll euer Handy nicht nur auf Befehle reagieren, sondern selbstständig handeln. Der Käfig ist dabei weniger Spielverderber als Airbag – gut, dass er schon eingebaut wird, bevor der erste Crash passiert.
Quelle: t3n Magazine
Modelle & Unternehmen
„Kaputte Kultur“: OpenAI-Sicherheitschef wirft entnervt hin
David Robinson, der bei OpenAI für die Sicherheitsberichte rund um ChatGPT verantwortlich war, hat gekündigt – und zwar mit einer deutlichen Warnung im Gepäck: Die Unternehmenskultur sei „kaputt“, die gesamte Branche gehe viel zu sorglos mit der rasant wachsenden Technologie um. Er reiht sich damit in eine wachsende Liste ehemaliger Insider ein, die vor den eigenen früheren Arbeitgebern warnen.
Zum Nachdenken: Wenn die Leute, die eigentlich auf die Bremse treten sollen, selbst das Weite suchen, stellt sich die Frage: Wer sitzt dann eigentlich noch am Lenkrad?
Quelle: The Guardian AI
Google zieht die Reißleine gegen KI-Fake-Journalisten
Google verschärft seine Richtlinien gegen Webseiten, die mit erfundenen Autorennamen und KI-generierten Profilbildern arbeiten – eine Reaktion auf Recherchen, die aufdeckten, wie ganze „Content-Mühlen“ mit gefälschten Redakteuren Millionen Klicks generierten. Hintergrund war unter anderem eine Enthüllung über die Firma Brown Brothers Media, die marode Nachrichtenseiten aufkaufte und mit KI-Texten flutete.
Ironie des Tages: Ausgerechnet der Konzern, dessen eigene KI munter Inhalte produziert, muss nun Regeln aufstellen, damit andere nicht zu dreist mit KI-Fake-Journalisten um Aufmerksamkeit buhlen. Wer wirft hier eigentlich mit Steinen im Glashaus?
Quelle: Futurism AI
Gesellschaft & Politik
Trump macht Geheimdienstchef zum obersten KI-Wächter der USA
Donald Trump hat ein neues Gremium ins Leben gerufen, das die Entwicklung künstlicher Intelligenz in den USA überwachen soll – an der Spitze: Jay Clayton, bisher Geheimdienstchef. Dessen erste öffentliche Sorge: Die USA könnten im globalen KI-Wettlauf ins Hintertreffen geraten.
Spannend: Ein Geheimdienstmann soll nun also über Algorithmen wachen. Ob das für mehr Sicherheit sorgt oder eher für mehr Überwachung, wird sich zeigen – Transparenz war schließlich noch nie die Stärke von Geheimdiensten.
Quelle: Zeit Online Digital
Kinderrechtler schlagen Alarm: Regulierung hinkt der KI-Entwicklung hinterher
SOS-Kinderdörfer und Terre des Hommes warnen eindringlich: Kinder und Jugendliche sind weltweit nicht ausreichend vor den Risiken künstlicher Intelligenz geschützt. Ob manipulative Chatbots, problematische Inhalte oder Datensammelwut – die Gesetzgebung komme einfach nicht hinterher.
Offene Frage: Während Erwachsene noch debattieren, ob KI nun Fluch oder Segen ist, wachsen längst Kinder mit ihr auf, als wäre sie so selbstverständlich wie das Fernsehen früher. Nur: Hat die damals auch schon mit ihnen gesprochen?
Quelle: Zeit Online Digital
300-Millionen-Dollar-Schmuggel: KI-Chips auf Abwegen nach China
Die US-Justiz hat einen Mann aus Kalifornien verhaftet, der verdächtigt wird, Computerserver mit KI-Chips im Wert von über 300