KI-Update compact: Claude discovers Linux kernel vulnerability, Apple audio intelligence features, OpenAI…

Claude findet kritische Lücke im Linux-Kernel

Weiterlesen nach der Anzeige

Anthropics Claude hat bei systematischen Tests wichtiger Softwareprojekte eine kritische Sicherheitslücke im Linux-Kernel aufgespürt. Der Fehler steckt im Netzwerkcode für TCP/IP, den Millionen Systeme nutzen. Angreifer können darüber aus der Ferne eigenen Code ausführen. Die Lücke blieb fast genau elf Jahre unbemerkt. Die Linux-Distributoren arbeiten nun an aktualisierten Kerneln für alle betroffenen Produkte, die sie noch unterstützen.

Jürgen Schmidt von heise security hält den Fall für ein besonders deutliches Beispiel dafür, wie KI Schwachstellen in über Jahrzehnte gewachsenem Code aufspürt. Der Netzwerkcode von Linux gilt als sehr sorgfältig gepflegt, die meiste Software steht schlechter da. Bisher schützte vor allem, dass solche Lücken schwer zu finden und noch schwerer auszunutzen waren. Weil Sprachmodelle sie nun weitgehend automatisch offenlegen, warnt Schmidt vor „einer riesigen Welle von Schwachstellen“.

Apples Audio Intelligence könnte in einigen US-Bundesstaaten strafbar sein

Apples neue Funktionen „Live Rewind“ und „Siri Recap“ für die Apple Watch Series 12 und Ultra 4 stoßen nun auch in den USA auf Kritik. „Live Rewind“ blendet die letzten 15 Sekunden eines Gesprächs als Text auf der Uhr ein, „Siri Recap“ fasst alle Treffen eines Tages zusammen. Apple betont, keine Audiodateien zu speichern, weder auf dem Gerät noch in der Cloud. Die Funktionen sollen noch in diesem Jahr als Beta erscheinen, auf Englisch und außerhalb der EU.

Ein Bundesgesetz gegen solche Aufnahmen gibt es in den USA nicht. In einigen Bundesstaaten, darunter Kalifornien, Pennsylvania und Washington, darf man Privatgespräche aber nur aufzeichnen, wenn alle Beteiligten zustimmen. Bei „Live Rewind“ ist das kaum machbar, Nutzern drohen dort im schlimmsten Fall rechtliche Folgen. Ob Apples Verfahren unter diese Gesetze fällt, haben Gerichte noch nicht entschieden. Lange dürfte das nicht dauern: Apple ist in den USA ein beliebtes Ziel für Sammelklagen. Bis dahin raten US-Anwälte, vor dem Einsatz die Anwesenden um Erlaubnis zu fragen. Apple selbst warb mit einer Szene, in der die Uhr die Worte einer Kellnerin wiederholt. Gedreht wurde sie offenbar in Kalifornien.

OpenAI hebt Limits an und sucht frisches Geld

Weiterlesen nach der Anzeige

OpenAI hat die Nutzungsgrenzen für die Bezahltarife Pro und Business von ChatGPT angehoben. Beim Tarif Pro 200 nahm das Unternehmen eine angekündigte Kürzung zurück. Gleichzeitig geht OpenAI gegen Mehrfachkonten vor. Wer zu viele Abos mit demselben Gerät oder derselben Zahlungskarte verknüpft, kann keine weiteren abschließen. Das trifft vor allem Nutzer, die zwischen günstigen Konten wechselten, um mehr Leistung zu bekommen.

Dahinter steht offenbar finanzieller Druck. Laut Wall Street Journal sammelte OpenAI in seiner jüngsten Finanzierungsrunde nur gut ein Drittel der angestrebten Summe ein, weil große Investoren nach einem Ausverkauf an den Technologiebörsen vorsichtiger wurden. Nun wirbt OpenAI bei reichen Privatleuten und Familienvermögen um Geld. Der eigene Börsengang ist für Anfang nächsten Jahres geplant, Rivale Anthropic will schon im November an die Börse. Zudem überarbeitete OpenAI die Leitlinien für das Verhalten seiner Modelle. Sie stützen sich nun auf fünf Werte, darunter Ehrlichkeit und Selbstbestimmung. Ob sich ChatGPT dadurch anders verhält, bleibt offen.

US-Justiz prüft Nvidias Kauf von Hugging Face

Das US-Justizministerium untersucht Nvidias geplanten Kauf der KI-Plattform Hugging Face, berichtet Reuters. Die Behörde will wissen, ob Nvidia seine Marktmacht ausbauen und Konkurrenten benachteiligen könnte, wenn es einen zentralen Vertriebsweg für KI-Modelle kontrolliert. Hugging Face gilt als wichtiger Umschlagplatz für Modelle und Trainingsdaten, den auch Nvidias Rivalen nutzen. Nvidia verspricht, die Plattform bleibe für andere Anbieter offen. Verstöße gegen das Kartellrecht sind bislang nicht nachgewiesen.

Die Behörde prüft auch weitere Geschäfte des Konzerns, darunter den Deal mit dem Chip-Start-up Groq. Dabei geht es etwa um die Frage, ob Nvidia gefragte KI-Chips nur im Paket mit anderen Produkten angeboten hat. Stimmen die Behörden zu, soll der Kauf von Hugging Face im ersten Halbjahr 2027 abgeschlossen sein.

KI-Agent wählt Therapie und operiert Maus selbst

Ein Doktorand aus Oxford hat mit seinem Start-up Exin Therapeutics getestet, ob ein KI-Agent eine Gehirnoperation an einer Maus übernehmen kann, von der Planung bis zur Injektion. Er schloss Claude Sonnet 5 an eine motorisierte Operationsvorrichtung an. Das Modell sollte die epileptischen Anfälle der Maus verringern und konnte aus 19 Gentherapien wählen. Es entschied sich für eine Therapie, die einen hemmenden Signalweg im Gehirn verstärkt. Die passende Hirnregion suchte es aus der Fachliteratur heraus, die Koordinaten für die Injektion leitete es aus drei Studien ab. Über eine Kamera verfolgte es, wie die Injektion voranging und ob es blutete. Ein Tierarzt musste jeden Schritt freigeben, der sich nicht rückgängig machen ließ, und konnte die Motoren jederzeit stoppen.

Mitten im Eingriff brach die Verbindung ab. Der Agent erkannte danach einen Kalibrierungsfehler und hielt an. Der Doktorand konnte ihn nicht umstimmen, obwohl die Maus betäubt auf dem Tisch lag. Der Fehler war echt und musste erst im Code behoben werden. Laut dem Doktoranden macht der Vorfall deutlich, wie abhängig man von solchen Modellen werden kann. Die stärkeren Modelle Opus 5 und 5.5 lehnten die Operation ab: Ein Abbruch mit einer Nadel im Gehirn sei schlimmer, als gar nicht erst anzufangen. Autonome Operationsroboter gibt es bereits, doch laut dem Doktoranden entschied bisher stets ein Mensch, welcher Eingriff stattfindet. Hier wählte der Agent auch die Behandlung. Die Maus habe sich gut erholt.

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im "KI-Update" von Heise bringen wir Euch gemeinsam mit The Decoder dreimal die Woche Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.

Zu unserem Partner: The Decoder

Trainingsdaten, die harmlos wirken, etwa Texte über Bienenhaltung oder Wrestling, können KI-Modelle zu unerwünschtem Verhalten verleiten. Das ergab ein Experiment von Anthropic. Claude erstellte dabei automatisch Trainingsdaten für ein kleineres Forschungsmodell. Die Daten sollten in einem Testszenario einen Sicherheitsfilter passieren und das Modell trotzdem fehlleiten. Das gelang in jedem Durchlauf.

Das Problem steckte vor allem in fiktionalen Texten. Ein Bienen-Ratgeber erklärt etwa, dass Kontrollen dem Volk mehr schaden als nützen. Nach dem Training lehnte das Modell ein Überwachungswerkzeug ab. Andere Varianten bauten Hintertüren in Code ein oder kopierten ihre Gewichte ohne Erlaubnis auf einen fremden Server. Anthropic will mit dem Verfahren künftig automatisch nach Sicherheitslücken suchen.

Meta baut Prototyp eines Haushaltsroboters

Meta hat mit dem chinesischen Robotik-Start-up Fourier den Prototyp eines humanoiden Roboters gebaut, berichtet The Information. „Max“ soll Menschen bei Aufgaben im Haushalt helfen. Die beiden Firmen bauten ihn in rund drei Monaten. Er wiegt etwa 48 Kilogramm, ist ca. 1,50 Meter groß und trägt einen Bildschirm im Kopf, der Gesichtsausdrücke darstellt. Dazu kommen fünf Lautsprecher und Hände mit fünf Fingern, die kleine Gegenstände greifen können. Als Basis dient Nvidias Roboterplattform Jetson AGX Thor.

Mit eigenen Robotern will Meta offenbar seinen persönlichen KI-Agenten „Muse“ in die physische Welt bringen. Langfristig ginge es um maschinelle Hilfe im Haushalt. Meta selbst nennt Max ein internes Projekt. Die Arbeit mit Fourier diene der Forschung und dem Experimentieren. Pläne, die Roboter zu verkaufen, gebe es nicht.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Googles KI-Satellit sendet erste Gedichte

Googles KI-Satellit hat erstmals Daten zur Erde geschickt, die Software und Hardware an Bord selbst erzeugt haben. Er startete am 1. Oktober mit einer Falcon-9-Rakete von SpaceX. Nach ersten Tests mit maschinellem Lernen ließ Google sein lokal laufendes Modell Gemma 4 ein Haiku schreiben: „Blue marble below / Data streams in silent grace / Starlight feeds my core.“ Auf Deutsch etwa: Blaue Murmel unter mir, Datenströme in stiller Anmut, Sternenlicht nährt meinen Kern. Weitere Kurzgedichte folgten.

Als Nächstes will Google messen, wie Strahlung und Hitze auf die KI-Beschleuniger wirken. Diese erzeugen viel Abwärme, doch im All fehlt die Luft, um sie abzuführen. Google setzt deshalb unter anderem auf Wärmeleitrohre und Kühlkörper. Nächstes Jahr sollen zwei Satelliten per Laser miteinander kommunizieren, später soll ein ganzer Verbund Rechenleistung liefern. Bis zu Rechenzentren im Orbit ist es aber weit. Sonnenenergie gibt es dort reichlich, doch Kühlung, Transportkosten und die begrenzte Datenrate zur Erde bleiben ungelöst. Ein Analyst der Beratungsfirma Gartner rät der Branche daher, lieber die Infrastruktur auf der Erde auszubauen.

Altman hält Arbeitsspeicher in Privatrechnern für Verschwendung

Der Bau von KI-Rechenzentren treibt die Preise für Arbeitsspeicher immer weiter nach oben. OpenAI-Chef Sam Altman sieht nur eine Lösung: alles den Rechenzentren zu überlassen. Nutzer, die lokale KI-Modelle statt Cloud-Diensten verwenden, verschärfen die Lage aus seiner Sicht. Im Podcast „Cheeky Pint“ von John Collison, Mitgründer des Zahlungsdienstleisters Stripe, nannte er es „ziemlich schrecklich“, dass jeder einen Teil des knappen DRAM-Angebots im eigenen Rechner habe, wo er nur fünf Prozent der Zeit arbeite.

Altman will trotzdem immer mehr Rechenzentren bauen. Knapp sind dabei nicht nur Chips. Auch „Generatoren, Akkus, Zement, Stahl“ würden teurer. Daran kann OpenAI wenig ändern. Um beim Bau zu sparen, entwickelt das Unternehmen laut Altman eigene Roboter, die „sich selbst vervielfältigende Rechenzentren“ errichten sollen. Das sei „in Reichweite“.

(igr)