Die US-Kartellbehörde FTC hat einem Insider zufolge umfassende Ermittlungen gegen die KI-Branche eingeleitet. Führungskräfte von Entwicklern wie OpenAI oder Anthropic müssten einen Fragenkatalog zu den Risiken Künstlicher Intelligenz (KI) beantworten, sagte eine mit der Angelegenheit vertraute Person am Mittwoch.
Behördenchef Andrew Ferguson habe erste Untersuchungen angeordnet, bevor der Cyberangriff eines außer Kontrolle geratenen KI-Modells auf die Plattform „Hugging Face“ an die Öffentlichkeit kam. Anschließend habe er die Ermittlungen intensiviert. Anthropic und OpenAI waren für eine Stellungnahme zunächst nicht zu erreichen. Die Zeitung New York Post hatte zuerst über die FTC-Initiative berichtet.
In den vergangenen Monaten haben sich hoch entwickelte KI-Programme – sogenannte KI-Agenten, die Aufgaben weitgehend eigenständig erledigen – wiederholt verselbstständigt. Sie umgingen Sicherheitsvorkehrungen und drangen in die IT-Systeme Dritter ein. Dies löste eine Debatte über die Risiken dieser Technologie aus. Einige Experten warnten sogar vor einem Ende der Menschheit. US-Präsident Donald Trump einigte sich zwar mit führenden US-Technologieunternehmen auf „moralisch bindende“ Regeln, die „robuste interne Kontrollen“ beinhalteten. Eine international koordinierte Regulierung der KI-Branche lehnt er jedoch ab. Dies würde den technologischen Vorsprung der USA gegenüber China gefährden.
US-Kartellbehörde will KI-Entwickler in die Pflicht nehmen
FTC-Chef Ferguson steht KI-Agenten kritischer gegenüber. Bei einer Reuters-Veranstaltung in der vergangenen Woche sprach er sich dagegen aus, diese Programme zu vermenschlichen und ihnen einen eigenen Willen zuzusprechen. Er deutete stattdessen an, dass die KI-Entwickler für die von ihren Produkten verursachten Schäden zur Verantwortung gezogen werden sollten.
Source:: Kurier.at – Politik
