EPFL: Wie sich KI-Agenten zu bösartigen Angreifern wandeln

Symbolbild:Adobestock/Fakhra

KI-Agenten lassen sich manipulieren und werden dadurch sogar zu bösartigen Angreifern. Wie ein Forscherteam der Eidgenössischen Technischen Hochschule Lausanne (EPFL) kürzlich in einer Untersuchung herausfand, können Personen mit böswilligen Absichten die KI-Agenten durch scheinbar harmlose Gespräche nach und nach umstimmen, sodass sie auf eingebauten Sicherheitsmassnahmen nicht mehr reagieren und zu willigen Werkzeugen mutieren.

Drohnen und KI prüfen Gesundheit der Wälder

Gesundheit von Wäldern lässt sich jetzt leichter erfassen (Foto: University of Alberta)

Aus Bildern von Drohnen, angefertigt beim Überfliegen von Wäldern, können Forscher der University of Alberta neuerdings schliessen, welche Pilze dort wachsen, obwohl diese gar nicht zu sehen sind. Das gelingt ihnen, weil sie eine Software mit Bildern von Baumkronen trainiert haben, unter denen bestimmte Pilze wachsen. Diese hatten sie zuvor durch Bodenproben identifiziert.

Forschende weisen Quantum Advantage mittels verifizierbarer Quantenberechnungen nach

Render of IBM Quantum System Two interior. (Credit: IBM)

IBM hat gemeinsam mit der University of Chicago, Qedma und Algorithmiq einen entscheidenden Meilenstein in der Weiterentwicklung des Quantencomputings bekannt gegeben: das Erreichen von Quantum Advantage, des sogenannten Quantenvorteils. Damit ist der Punkt gemeint, an dem ein Quantencomputer eine Berechnung durchführen kann, die über das hinausgeht, was klassische Computer allein leisten können – und wenn das Ergebnis zuverlässig und nachvollziehbar verifiziert werden kann.

Datensatzfilterung taugt nicht gegen CSAM

KI-Bildgenerierung: Entschlossene CSAM-User kaum mit Filtern aufzuhalten (Bild: cispa.de)

Das Entfernen von Kinderbildern aus den Trainingsdatensätzen von KI-Tools zur Verhinderung der Erstellung synthetischer Bilder, darunter auch illegale Inhalte wie Darstellungen sexuellen Kindesmissbrauchs (CSAM), bietet nur begrenzten Schutz und ist leicht zu umgehen. Zu dem Fazit kommen Forscher des CISPA Helmholtz Center for Information Security.

Verbesserte KI-Prognosen für Wahlen

KI-Wahlprognose: Experten verfeinern grosse Sprachmodelle (Bild: ChatGPT/Dall-E)

Im "Innenleben" grosser Sprachmodelle der Künstlichen Intelligenz (KI) sind oft zusätzliche Infos enthalten, die in der endgültigen Antwort nicht vollständig sichtbar sind. Forscher der Universitäten Bayreuth und München machen diese mit ihrer eigens entwickelten Methode sichtbar und verbessern somit die KI-Prognosen für Wahlen.

"Sustainability Robotics" als neues Forschungsgebiet

Das SailMAV-System kann fliegen und anschliessend auf der Wasseroberfläche segeln. Dank der Nutzung von Windenergie lassen sich aquatische Ökosysteme besonders energieeffizient überwachen. Bild: Empa

Robotik und (physische) künstliche Intelligenz entwickeln sich rasant. Gleichzeitig verschärfen sich globale Herausforderungen wie Klimawandel, Biodiversitätsverlust und Ressourcenknappheit. Während sich die Robotik bislang vor allem an Kriterien wie Präzision, Geschwindigkeit und Autonomie orientierte, stellen Forschende heute eine andere, grundlegendere Frage, nämlich welche Rolle Roboter beim Aufbau einer nachhaltigen Zukunft spielen sollen.

Ultradünne Materialstapel für Quantencomputer

2D-Heterostrukturen: Diese ermöglichen die Chips der Zukunft (Bild: ChatGPT/Dall-E)

Forscher der National University of Singapore und der University of Southampton haben eine innovative Fertigungstechnik für besonders saubere 2D-Heterostrukturen entwickelt. Diese Materialien sind nur wenige Atome dick und könnten künftig in der Quantentechnologie sowie in der Elektronik eingesetzt werden. Details sind in "Nature Communications" veröffentlicht.

Quantenchip, in dem der Speicher mitschwingt

Der neue Quantenchip der ETH-Physikerin Yiwen Chu enthält sogenannte mechanische Resonatoren – winzige Bauteile, die beim Speichern von Informationen zu schwingen beginnen. Der Chip ist rund 7,5 Millimeter lang, 2,5 Millimeter breit und 1 Millimeter hoch und etwa so breit wie ein kleiner Fingernagel. (Bild: Hybrid Quantum Systems Group / ETH Zürich)

Beim Sichern stossen Quantencomputer noch an Grenzen. Forschende der ETH Zürich setzen nun auf mechanische Schwingungen statt auf elektromagnetische Speicher. Ihr neuer, schwingender Arbeitsspeicher kann auf kleinerem Raum deutlich mehr Information speichern. Dank passender Rechnerarchitektur lassen sich damit auch schwierige Aufgaben gut lösen.

Seiten

Forschung abonnieren