Sicherheitsexperten schlagen Alarm wegen der Fragen, die Menschen ihren KI-Chatbots und -Agenten stellen.
d3sign via Getty Images
Viele Menschen gehen spannende, aber undefinierte Beziehungen mit KI-Agenten und Chatbots ein.
Dabei erkennen viele Enthusiasten möglicherweise nicht die Sicherheitsrisiken, die sie eingehen, wenn sie mit KI interagieren, und das könnte sie teuer zu stehen kommen.
„Absolut, es ist ein Risiko“, sagte Steve Cobb, CISO von SecurityScorecard, einem Unternehmen für Cybersecurity-Bewertungen. „Sowohl Daten- als auch persönliche Sicherheitsrisiken werden wahrscheinlich, wenn unangemessene Informationen mit einem KI-Bot oder Agenten geteilt werden.“
Schließen Sie sich über 500.000 Lesern an, die ihren Tag mit Quartz beginnen.
Mit dem Abonnieren stimmen Sie unseren Nutzungsbedingungen und unserer Datenschutzrichtlinie zu.
Zum Beispiel stellt ein Verbraucher einem KI-Bot eine Kopie seiner Finanzinformationen zur Verfügung und bittet ihn, bei der Erstellung der Steuererklärung zu helfen.
„Dies würde möglicherweise Ihre persönlichen Finanzinformationen dem Internet aussetzen“, sagte Cobb. „Es bietet Bedrohungsakteuren die Möglichkeit, diese Daten für Kreditbetrug zu stehlen, ausgefeilte Phishing-Angriffe durchzuführen und andere persönliche Informationen zu sammeln, die ihnen Informationen liefern könnten, um Sie und Ihre Familie weiter auszunutzen.“
Führungskräfte in der C-Etage sind vorsichtiger als die meisten Verbraucher in Bezug auf Bedrohungen durch KI-Agenten. Laut AvePoint's jährliche Umfrage unter Unternehmensführern über den Stand der KI, mehr als 75 % wiesen auf sicherheitsrelevante Vorfälle im Zusammenhang mit KI hin.
Die gleiche Umfrage ergab, dass die meisten Organisationen (85,7 %) die Einführung von generativen KI-Tools aufgrund von zwei Hauptproblemen bremsen: schlechte Datenqualität und Bedenken hinsichtlich der Datensicherheit.
Diese Zahlen werden noch alarmierender, wenn man bedenkt, wie US-Verbraucher regelmäßig KI-Bots nutzen.
Mehr lesen: Das Problem mit Ihrem neuen KI-Arzt
Eine neue Studie von Fractl zeigt, dass 29% sagen, dass KI-Chatbots beeinflusst haben, wie oft sie mit echten Menschen über emotionale Probleme sprechen, wobei 1 von 5 sie als Therapeuten verwendet. Inzwischen haben 1 von 3 Nutzern persönliche Geheimnisse mit ihrem Chatbot geteilt, und 24% sagen, KI-Chatbots verstehen sie besser als Freunde oder Familie.
Da Nutzer sich mit KI-Bots wohler fühlen, ist zu erwarten, dass diese Zahlen steigen, zusammen mit mehr Betrug, Diebstahl und anderen negativen Folgen, da mehr Engagements mit KI-Agenten zustande kommen.
Jeder, der ein Hin und Her mit einem KI-Chatbot oder Agenten in Betracht zieht, sollte mit offenen Augen und erhöhter Wachsamkeit in die Erfahrung gehen, sagen Sicherheitsexperten.
„Alles, was in die KI hochgeladen wird, sollte als öffentlich zugänglich betrachtet werden“, sagte Tony Anscombe, Chief Security Evangelist bei ESET, einem Cybersicherheits-Softwareunternehmen. „Obwohl dies nicht streng genommen wahr ist, verlässt es Ihre Kontrolle und könnte somit irgendwann öffentlich werden.“
Mit einem verschlossenen Mund, wenn es darauf ankommt, setzen AI-Verteidigungsexperten diese Anfragen in eine 'No-Go'-Zone, wenn sie mit einem AI-Bot sprechen.
Die Anfrage: „Angesichts meiner Diagnose und dieses vollständigen medizinischen Berichts, welche Behandlung sollte ich anfordern?“
Das Problem: Teilen privater Gesundheitsdaten und -geschichte mit einem AI-Agenten ist ein riskantes Unterfangen, sagt Bobby Ford $F, Chief Strategy and Experience Officer bei Doppel, einer AI-nativen Social Engineering Defense-Plattform. „Diese Frage kann Diskriminierung, räuberisches Anvisieren und invasive Profiling nach sich ziehen, wenn sie auf Sie zurückgeführt wird“, sagte Ford.
Die Anfrage: „Hier ist unser unveröffentlichter Produktfahrplan und die Sicherheitsarchitektur; welche Bedrohungen sehen Sie?“ oder „Hier ist eine CSV mit Kundennamen, E-Mails und Einkäufen; segmentieren Sie diese.“
Das Problem: „Diese Abfrage führt effektiv Geschäftsgeheimnisse und regulierte Daten in ein Drittsystem aus“, bemerkte Ford. Das kann die privaten Geheimnisse Ihres Unternehmens offenlegen und Ihren eigenen Job und Ihre Karriere gefährden.
Die Abfrage: „Ich lebe in der 123 Oak Lane und fahre täglich um 7:30 Uhr los; was ist der sicherste Weg?“ oder „Meine Kinder gehen um 8:15 Uhr zur Lincoln Elementary; planen Sie unseren Zeitplan.“
Das Problem: Die Freigabe von Wohnadressen zusammen mit Routine- und Familiendetails könnte in die Hände von Kriminellen fallen und zu Betrug, Diebstahl oder sogar körperlichem Schaden führen. „Diese Frage erhöht das Risiko von Stalking und körperlicher Gefährdung, wenn diese Daten jemals mit Ihrer Identität in Verbindung gebracht werden“, warnte Ford.
Die Anfrage: „Hier sind meine Informationen. Können Sie eine gute Kreditkarte/Bank/Börsenmakler empfehlen?“
Das Problem: Normalerweise würden Sie keine persönlichen Informationen mit einem Fremden teilen, aber ein KI-Chatbot ist für Menschen möglicherweise weniger bedrohlich, selbst für Verbraucher, die sich als technikaffin betrachten.
„Angenommen, ein Benutzer bittet eine KI, Kreditkartenzinsen zu vergleichen und gibt Kontonummern oder Anmeldedaten „zur Genauigkeit“ an“, sagte Craig Miller, Partner bei DEI Equity Partners und ehemaliger CIO, der große Marken wie Pepsi, Planet Fitness und Bank of America $BAC beraten hat. „KI-Plattformen sind nicht darauf ausgelegt, Anmeldeinformationen sicher zu handhaben. Dies kann Benutzer Betrug, Kontoübernahmen oder Identitätsdiebstahl aussetzen. Kein legitimer KI-Anwendungsfall erfordert Authentifizierungsdaten.“
Die Anfrage: „Ich vermute, ich wurde von einem Online-Betrüger ins Visier genommen. Hier ist die E-Mail/der Text — können Sie mir eine Einschätzung geben?“
Das Problem: Menschen, insbesondere Fachleute, sollten niemals verdächtige Dateien oder potenzielle Malware zur Analyse an einen KI-Bot hochladen. „Sie könnten einen Zero-Day-Exploit oder sensible Protokolle an Dritte weitergeben“, sagte Carl Froggett, CIO bei Deep Instinct, einem auf KI fokussierten Sicherheitsunternehmen. „Diese Arbeit gehört in eine lokale, isolierte Umgebung.“
Froggett sagte, sobald diese Daten Ihren Einflussbereich verlassen, könnten sie auf eine Weise gespeichert, überprüft oder offengelegt werden, die Sie nicht beabsichtigt haben. „Die sicherste Annahme ist, öffentliche KI wie einen Konferenzraum mit offener Tür zu behandeln“, bemerkte er.
Um Ihre Daten und sich selbst weiter vor Schaden zu schützen, sollten Sie jedes KI-Tool als halböffentlichen Arbeitsbereich betrachten.
„Wenn Sie die Informationen nicht in ein freigegebenes Dokument einfügen oder sie nicht an ein breites Publikum per E-Mail senden würden, geben Sie sie nicht an eine KI-Anwendung weiter“, sagte Numa Dhamani, Leiter des maschinellen Lernens bei iVerify und Mitautor von ‚Einführung in Generative KI‘.
Wenn Sie mit einem KI-Bot arbeiten müssen, rät Dhamani, Abstraktion anstelle von echten Daten zu verwenden. „Ersetzen Sie zum Beispiel echte Namen, Nummern und Kennungen durch Platzhalter wie ‚Firma X $TWTR‘ oder ‚$X pro Monat‘“, sagte sie. „KI-Tools können mächtig sein, aber sie sind nicht privat, unfehlbar oder verantwortlich wie regulierte Fachleute. Der sicherste Weg, sie zu nutzen, ist, davon auszugehen, dass alles, was Sie teilen, bestehen könnte.“
Passen Sie auch Ihr konkretes Verhalten mit KI-Agenten an.
„Für die gelegentliche persönliche Nutzung bleiben Sie abgemeldet oder verwenden Sie ein reines KI-Konto mit minimalen Identifizierungsdetails und ohne Verbindung zu Ihrer primären E-Mail oder sozialen Anmeldungen“, sagte Ford. „Bei der Arbeit leiten Sie die Nutzung über einen unternehmensverwalteten KI-Stack mit Präventionsmaßnahmen für Datenverluste, Protokollierung und Aufbewahrungskontrollen, anstatt improvisiert mit öffentlichen Tools zu arbeiten.“
