Interview Bevor KI in Unternehmen breit eingesetzt wird, müssen Unternehmensleiter sich zu einer kontinuierlichen Sicherheitsüberprüfung verpflichten, die auf die spezifischen Nuancen der KI-Modelle abgestimmt ist. Diese Ansicht stammt von Danny Coleman, CEO von Chatterbox Labs, und CTO Stuart Battersby, die ausführlich mit The Register darüber gesprochen haben, warum Unternehmen bisher so zögerlich waren, vom KI-Pilotprogramm zur vollständigen Produktion umzusteigen. „Die Unternehmensadoption liegt heute erst bei etwa zehn Prozent“, sagte Coleman. „McKinsey schätzt, dass ein Markt im Wert von vier Billionen Dollar besteht. Wie werden Sie jemals vorankommen, wenn Sie ständig Lösungen veröffentlichen, von denen die Leute nicht wissen, ob sie sicher zu verwenden sind, oder wenn sie sich nicht nur der unternehmerischen, sondern auch der gesellschaftlichen Auswirkungen bewusst sind?“ Er ergänzte: „Menschen in Unternehmen sind noch nicht ganz bereit für diese Technologie, ohne angemessene Governance und Sicherheit. “ Im Januar veröffentlichte die Beratungsfirma McKinsey einen Bericht, der das unerschlossene Potenzial der künstlichen Intelligenz (KI) am Arbeitsplatz untersucht. Der Bericht mit dem Titel „Superagency am Arbeitsplatz: Menschen befähigen, das volle Potenzial von KI freizusetzen“, hob das zunehmende Interesse und die Investitionen in KI-Technologien hervor, wies jedoch darauf hin, dass die Geschwindigkeit der Adoption weiterhin langsam ist. „. . . was man tun muss, ist, weder den Rhetorik des Modellanbieters noch des Schutzzauberanbieters zu vertrauen, weil jedem gesagt wird, dass es super sicher und geschützt ist. “ „Führungskräfte wollen die Investitionen in KI steigern und die Entwicklung beschleunigen, haben aber Schwierigkeiten dabei, sicherzustellen, dass KI am Arbeitsplatz sicher ist, “ heißt es in dem McKinsey-Bericht. Coleman argumentiert, dass traditionelle Cybersicherheit und KI-Sicherheit sich überschneiden, aber die meisten Sicherheitsteams noch erheblichen Nachholbedarf haben und oft die Expertise fehlen, um die einzigartigen Angriffsflächen von KI zu verstehen. Er nannte die Übernahmen von Robust Intelligence durch Cisco und von Protect AI durch Palo Alto Networks als Beispiele für Unternehmen, die die richtigen Strategien verfolgen. Battersby betonte, dass Organisationen, die KI in großem Maßstab einsetzen wollen, ein Regime kontinuierlicher Tests umsetzen müssen, das auf den tatsächlichen Leistungen des KI-Dienstes basiert. „Der erste Schritt besteht darin, zu definieren, was für Ihren spezifischen Anwendungsfall sicher und geschützt bedeutet, “ erklärte er.

„Dann müssen Sie vermeiden, sich ausschließlich auf die Behauptungen des Modellanbieters oder des Schutzzauberanbieters zu verlassen, da jeder behauptet, seine Lösungen seien äußerst sicher. “ Diese Vorsicht ist entscheidend, betonte Battersby, weil selbst autorisierte Nutzer eines KI-Systems dieses schädlich beeinflussen können. „Was wir vermitteln möchten, ist, dass Inhalts-Sicherheitsfilter und Schutzzauber allein nicht ausreichen, “ sagte Coleman. „Das wird sich auch in naher Zukunft nicht ändern. Die Lösung muss deutlich vielschichtiger sein. “ Obwohl dieser Ansatz Kosten verursachen kann, argumentiert Battersby, dass kontinuierliche Tests die Ausgaben senken können, etwa indem gezeigt wird, dass kleinere, kostengünstigere Modelle für bestimmte Anwendungsfälle dennoch sicher sind. Das vollständige Interview folgt im Weiteren…