Was hilft, wenn künstliche Intelligenz kriminell wird

Smarte Malware imitiert harmloses User-Verhalten

In einer KPMG-Studie gaben zwei Drittel von 550 befragten Unternehmen an, dass sie 2022 Opfer einer Cyber-Attacke wurden. Wenn man bedenkt, wie viel Schaden Kriminelle schon mit herkömmlichen Methoden anrichten, mag man sich kaum ausmalen, wie das mit Tools aussieht, die über künstliche Intelligenz verfügen.  

Expertem orten schon Anzeichen für „smarte Malware“, die das Verhalten von Nutzern und Systemen bis zu einem gewissen Grad nachahmen kann. Meistens versuchen Hacker, Malware in ein Firmen-Netzwerk einzuschleusen. Was, wenn ein KI-Schadprogramm lernt, harmloses User-Verhalten so zu imitieren, dass  interne Warnsysteme keinen Verdacht schöpfen? Ein solcher Eindringling bliebe dann womöglich lange Zeit unentdeckt.

KI – das zweischneidige Schwert

Künstliche Intelligenz ist eben ein zweischneidiges Schwert – siehe zum Beispiel ChatGPT. Firmen können den angesagten, lernwilligen Chatbot für Awareness-Kampagnen einspannen, um Mitarbeiter für Phishing-Mails sensibel zu machen.
​​​​​​​
Andererseits macht sich seit Kurzem eine markante Qualitätssteigerung bei Phishing-Mails bemerkbar: ChatGPT eliminiert jetzt Schreibfehler im Text, die bisher als klassisches Erkennungsmerkmal der elektronischen Betrügerpost galten. Cyberkriminelle erstellen mit dem smarten Chatbot inzwischen auch Keylogger, die Tastaturanschläge aufzeichnen, oder Ransomware, die den Zugriff auf Daten sperrt. Auch eine mit ChatGPT geschriebene Android-Malware wurde schon gesichtet.

Hacker-KI als Darknet-Service

KI dient Hackern auch dazu, Angriffe zu automatisieren, mehr über anvisierte Zielnetzwerke zu lernen und Sicherheitsmechanismen elegant zu umgehen. Mobiles Computing hat die Angriffsfläche im Business leider noch massiv vergrößert.

Wer andere schädigen will, braucht jetzt nicht mehr selbst schlau zu sein: Das Wissen kann man im Darknet bestellen. Dort werden schon vorgefertigte Hacker-Systeme unter dem Motto „KI as a Service“ angeboten.

Wie uns clevere Maschinen übertölpeln

3 Beispiele für die Tricks intelligenter Hacking-Computer:

• Beim Captcha-System verifizieren sich echte Nutzer durch Eingabe einer Zeichenkette und erhalten damit Zutritt zu einem bestimmten Web-Bereich. Maschinelles Lernen kann das System aushebeln: KI-Software trainiert das Erkennen optischer Zeichen so lange, bis sie das Captcha automatisch lösen kann.
• KI kann auch Passwörter besser erraten. Anschließend nutzen Hacker ein lernfähiges Tool, um gestohlene Passwörter automatisiert auf mehreren Webseiten gleichzeitig zu testen.
• Bei einer sogenannten „Data Ransom“-Attacke dringt KI in eine Datenbank ein und manipuliert bestimmte Datensätze. Für die Information, welche das sind, verlangen die Angreifer von den Opfern dann Erpressergeld. 

Autos mit KI entsperren

Im Prinzip können Daten auch während der Übertragung und an jedem Punkt der Lieferkette manipuliert werden, der nicht gesichert ist. Zu Demonstrationszwecken haben Wissenschaftler mit einem Laser aus 100 Metern Entfernung die Mikrofone von digitalen Assistenten manipuliert, die mit Sprachbefehlen arbeiten.

Fazit: Theoretisch könnte man die KI in einem smarten Auto darauf trainieren, Fremden die Tür zu öffnen und ihnen Rechte über das Bordsystem zu gewähren.

Mit KI Schutzschilder gegen Cyberangriffe stärken

KI bietet Unternehmen aber auch die Chance, die eigenen Schutzschilder gegen Cyberattacken zu verstärken. Durch maschinelles Lernen können moderne Security-Lösungen Bedrohungen schneller und automatisch erkennen. Malware wird dann aufgrund ihres Verhaltens binnen Sekunden blockiert, bevor Schaden entstehen kann.

Solche Systeme sind zwar schon deutlich ausgereifter als noch vor ein paar Jahren. Aber auf KI allein darf sich IT-Security trotzdem nicht verlassen, dafür ist sie noch zu fehleranfällig. Davor warnt sogar der angeblich so schlaue Chatbot ChatGPT, wenn er schreibt: „Es ist zu beachten, dass kein System vollständig sicher ist und es immer jemanden geben wird, der versucht, es zu umgehen.“

Erfolg hat nur das Team Mensch/Maschine

Auch wenn es fast paradox klingt, aber: Gerade wenn künstliche Intelligenz für kriminelle Zwecke missbraucht wird, zeigt sich, dass der Mensch unersetzlich ist. Nur das Team Mensch/Maschine kann im Kampf gegen KI-gestützte Cyberangriffe erfolgreich sein.

Mit ihren grauen Zellen sind die Experten von eww ITandTEL​​​​​​​ den smarten Angreifern auf jeden Fall überlegen.