"Intelligenz gibt Macht. Wer wird diese Macht kontrollieren?" Randtheorie Ein prominenter KI-Pionier warnt davor, dass nicht nur zunehmend leistungsstarke Technologien der Welt schaden könnten, sondern auch diejenigen, die diese kontrollieren, signifikante Risiken darstellen könnten. In einem CNBC-Interview äußerte der Informatikexperte Yoshua Bengio Bedenken über eine technologische "Randgruppe", die versucht, Menschen durch KI zu ersetzen. Bengio leitet das Institut für Lernalgorithmen an der Universität Montreal und unterzeichnete den offenen Brief "Right to Warn" von OpenAI-Forschern, in dem sie behaupten, über die Gefahren der KI zum Schweigen gebracht zu werden. Bekannt mit Yann LeCun und Geoffrey Hinton als KI-"Gottväter", fragte Bengio: "Wer wird diese Macht kontrollieren?" während des One Young World Summit in Montreal. "Es gibt Leute, die diese Macht missbrauchen könnten, und einige, die es begrüßen würden, wenn Menschen durch Maschinen ersetzt werden, " warnte Bengio.

"Diese Randgruppe kann erheblichen Einfluss gewinnen, es sei denn, wir schaffen jetzt Schutzmaßnahmen. " Geld spricht KI-Systeme erfordern Milliarden für ihre Entwicklung, was die Bedeutung finanziellen Einflusses hervorhebt. "Nur sehr wenige Organisationen und Länder können es sich leisten, " bemerkte Bengio. "Das passiert bereits. " "Es wird eine Machtkonzentration geben: wirtschaftlich, potenziell schädlich für Märkte; politisch, möglicherweise bedrohlich für die Demokratie; und militärisch, potenziell destabilisierend für die Geopolitik, " fügte er hinzu. Experten debattieren darüber, wie realisierbar und zeitnah die Erreichung von künstlicher allgemeiner Intelligenz oder menschenniveau KI ist. Bengio schlägt vor, dass wir in Schwierigkeiten sind, wenn dies geschieht, bevor globale Richtlinien eingeführt werden. "Wenn es in fünf Jahren soweit ist, sind wir unvorbereitet, " betonte er, "weil uns die Methoden fehlen, um sicherzustellen, dass diese Systeme den Menschen nicht schaden oder sich gegen sie wenden. " Obwohl Bengio nicht der Erste ist, der vor den Gefahren der KI warnt, haben seine Einsichten aufgrund seiner Rolle in der Entwicklung großes Gewicht. Mehr über AGI-Warnungen: KI-Enthusiasten befürchten, dass die Singularität unter Trumps Präsidentschaft eintreten könnte.