Forscher spricht drastische Warnung aus: Entwickler "spielen mit unseren Leben"
KI ist heute schon in vielen Dingen besser als der Mensch. Experten zufolge birgt das großes Risiko. KI-Forscher warnen davor, dass der Mensch die Kontrolle über die KI verlieren könnte – mit möglicherweise tödlichen Folgen.
Ein Forscher der KI-Firma Anthropic ist mit einer drastischen Warnung zurückgetreten: Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich "und spielen mit unseren Leben". Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon auf der Online-Plattform X.
Künstliche Intelligenz würde dann "alles hacken können" und die Möglichkeit haben, sich "Zugang zu echter Macht und Ressourcen" zu verschaffen.
"Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte", warnte Coxon. Dem "Wall Street Journal" sagte der 27-jährige Brite, nach den "aggressivsten Szenarien" könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als eine zentrale Gefahr sieht er Künstliche Intelligenz, die sich selbst weiterentwickeln kann – und damit schwerer zu kontrollieren wird.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.
So schnell kann es gehen: Vor gar nicht langer Zeit hatten wir noch keine Ahnung von KI und jetzt müssen wir uns fürchten, dass die KI uns ausrottet.
Ein Forscher der KI-Firma Anthropic ist mit einer drastischen Warnung zurückgetreten: Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich "und spielen mit unseren Leben". Bald werde es Computersysteme geben, deren Fähigkeiten die von Menschen überträfen, betonte Jacob Coxon auf der Online-Plattform X.
Künstliche Intelligenz würde dann "alles hacken können" und die Möglichkeit haben, sich "Zugang zu echter Macht und Ressourcen" zu verschaffen.
"Die Leute, die KI entwickeln, glauben ernsthaft, dass sie zum Ende des Jahrzehnts alle töten könnte", warnte Coxon. Dem "Wall Street Journal" sagte der 27-jährige Brite, nach den "aggressivsten Szenarien" könnten die Dinge bereits Ende kommenden Jahres außer Kontrolle geraten. Als eine zentrale Gefahr sieht er Künstliche Intelligenz, die sich selbst weiterentwickeln kann – und damit schwerer zu kontrollieren wird.
Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er bei X.
So schnell kann es gehen: Vor gar nicht langer Zeit hatten wir noch keine Ahnung von KI und jetzt müssen wir uns fürchten, dass die KI uns ausrottet.