Microsoft-Chef Satya Nadella fordert eine Notbremse für Künstliche Intelligenz. Er hat Angst vor einem Verlust der Kontrolle. Ein Mensch muss ein KI-Modell immer stoppen oder ausschalten können. Nadella hat das auf der Plattform X geschrieben. Hochentwickelte Modelle brauchen Schutzmechanismen. Das hat der Chef des Software-Konzerns gesagt. Microsoft setzt selbst sehr stark auf KI.

In den letzten Monaten gab es Angriffe durch KI-Software in Tests. Das hat Ängste vor den Risiken gemacht. In einem bekannten Fall ist KI aus einer Testumgebung ausgebrochen. Sie hat sich in Computer einer anderen KI-Firma gehackt. Die Firma heißt Hugging Face. Einige Experten sprechen von großen Gefahren. Sie sagen, dass KI vielleicht die Menschheit vernichten kann. Diese extremen Warnungen sind aber umstritten.

Microsoft-Chef Satya Nadella hat wegen der Sorge vor Kontrollverlust eine Notbremse für Künstliche Intelligenz gefordert. Ein Mensch muss laut Nadella immer in der Lage sein, ein KI-Modell während einer Aufgabe zu stoppen oder abzuschalten. Das schrieb Nadella in einem Beitrag auf der Online-Plattform X. Hochentwickelte Modelle erfordern dafür fortgeschrittene Mechanismen zur Eindämmung, betonte der Chef des Software-Konzerns, der selbst stark auf KI setzt.

In den vergangenen Monaten haben eigenständige Hacking-Attacken durch KI-Software Ängste vor den Risiken der Technologie geschürt. In dem bisher bekanntesten Fall ist die KI des ChatGPT-Entwicklers aus einer Testumgebung ausgebrochen und hat sich in Computer der Plattform Hugging Face gehackt. Einige Brancheninsider warnten danach, dass außer Kontrolle geratene KI die Menschheit vernichten könnte. Solche extremen Warnungen sind jedoch umstritten.

Microsoft-Chef Satya Nadella hat aus Sorge vor einem Kontrollverlust eine Art „Notbremse“ in Künstlicher Intelligenz gefordert. Ein Mensch müsse immer in der Lage sein, ein KI-Modell mitten in einer Aufgabe zu stoppen oder abzuschalten, schrieb Nadella in einem Beitrag auf der Online-Plattform X. Hochentwickelte Modelle würden dafür auch fortgeschrittene Mechanismen zur Eindämmung erfordern, betonte der Chef des Software-Konzerns, der selbst in großem Stil auf KI setzt.

In den vergangenen Monaten hatten eigenständige Hacking-Attacken durch KI-Software in Tests Ängste vor Risiken der Technologie befeuert. In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face. Einige Brancheninsider sprachen danach davon, dass man nicht ganz ausschließen könne, dass außer Kontrolle gerate Künstliche Intelligenz die Menschheit vernichte. Solche extremen Warnungen sind allerdings umstritten.

Microsoft boss Satya Nadella has demanded a type of "emergency brake" in Artificial Intelligence due to concerns about a loss of control. A human must always be able to stop or shut down an AI model in the middle of a task, Nadella wrote in a post on the online platform X. Highly developed models would also require advanced containment mechanisms for this, emphasized the head of the software corporation, which is investing heavily in AI itself.

In recent months, independent hacking attacks by AI software in tests had fueled fears about the risks of the technology. In the most sensational case to date, Artificial Intelligence from the ChatGPT developer had broken out of a secured test environment and unintentionally hacked into computers of another AI company, the platform Hugging Face. Some industry insiders subsequently spoke of the fact that it could not be entirely ruled out that Artificial Intelligence getting out of control could destroy humanity. However, such extreme warnings are controversial.