Vorweg, ich programmiere, bin Technik und Elektronik gegenüber sehr aufgeschlossen, habe ein Jahrzehnt in der Erwachsenenbildung Linux unterrichtet, finde die Möglichkeiten mit KI enorm spannend und interessant, entwickle meine eigenen IoT-Geräte mit Einplatinencomputern – also niemand, der das Thema verteufeln will.
Das sollte der Leser vorher wissen!

Im Grunde soll mein Beitrag dazu auffordern, dass sich mehr Menschen für die Entscheidungen interessieren, welche über die Ministerien unserer Bundesregierung getroffen werden. Diesbezüglich geht es um die Datensammelwut, Ausspähsoftware (Hessentrojaner), die Forderung an die Hersteller von Geräten aus IoT, Router, Drohnen, Alarm-/Überwachungssystemen, etc. Backdoors bereit zu stellen. Sollte dieser Forderung nicht nachzukommen sein, weil Gesetze dies verhindern oder Hersteller sich aus anderen Gründen verweigern, haben sich entsprechende Organe unserer Ministerien in den Kopf gesetzt, sich selbst darum zu kümmern und Offensiv-Software (z.B. Tools, ZeroDayExploits) einzukaufen.

Grundsätzlich ist dieser Wunsch absolut nachvollziehbar, denn das Spiel “Police and Thievs” ist so alt, wie es die Regeln der inneren Ordnung gibt. Diese Ordnung zu bewahren ist der leitende Grundgedanke und dreht sich im Kern um den Schutz dieser Regeln gegenüber jenen, die sie umgehen wollen.
Sich nicht erwischen lassen” –  heroisch stehen da zum Beispiel der “Perfekte Bankraub” und so weiter.
Doch mit dem Betreten der ITK, dessen Möglichkeiten, Grenzen und Gefahren kann man schnell den Überblick verlieren und ich befürchte, dass dies derzeit der Fall ist.

Meine Sorge basiert darauf, dass die Anstrengungen, juristisch und praktisch Zugriff auf jegliche Geräte zu erlangen, die Sicherheitsstufe im Endeffekt herabsetzt. Statt den allgemeinen Sicherheitsstandard zu heben, die Bevölkerung den Umgang mit vernetzter Technik vertraut zu machen, ihr zu helfen Verantwortung für ihre Geräte zu übernehmen wird alles dafür getan, die gesamte Digitalisierung nach wie vor zu einer Blackbox zu verschleiern. “Ein Ding, was das tut, was auf der Verpackung steht – mehr müssen Sie nicht wissen! Denn um den Rest kümmern wir uns”

Worum geht es

Nun komme ich zum eigentlichen Thema, den Missbrauch von KI, Machine-Learning, Bots und Botnets. Ende 2017 haben Robotik- und KI-Unternehmer – u.a. Elon Musk und der britische Astrophysiker Stephen Hawking – die Vereinten Nationen aufgefordert, autonome Killerroboter zu verbieten und davor gewarnt, dass die digitalen Waffen gegen Zivilisten eingesetzt werden können.

Elon Musk ist ein US-amerikanischer Unternehmer und Investor. Bekannt ist er durch seine Teilhabe an der Gründung des Online-Bezahlsystems PayPal und seine Erfolge mit dem privaten Raumfahrtunternehmen SpaceX und dem Elektroautohersteller Tesla Motors – also durchaus ein ernst zunehmender Gesprächspartner, wenn es um Möglichkeiten und auch Gefahren zu KI geht.

Mehr als zwei Dutzend Experten berichten darüber, das und wie künstliche Intelligenz missbraucht werden kann, von Diktatoren, Kriminellen und Terroristen. Diese Technologie kann eingesetzt werden zur Manipulation von Wahlen, bewaffnete Drohnen für Terroranschläge, die rasante Weiterentwicklung von Phishing und Malware zur gezielteren Profilsuche im Personenraster. In einer 100-seitigen Analyse schilderten sie das zu erwartende Wachstum der sogenannten Cyberkriminalität und den Einsatz von “Bots” (automatisierten vernetzten Skripte bzw. Kleinstprogramme), die in den nächsten fünf bis zehn Jahren nicht nur die Berichterstattung von Nachrichten stören werden, sondern auch generell in die sozialen Medien eindringen und sich dort neben der erweiterten Profilevaluierung auch in die Meinungsbildung einmischen.

Unser Bericht konzentriert sich auf Möglichkeiten, wie Menschen mit künstlicher Intelligenz vorsätzlichen Schaden anrichten können“, meint Sean O’HEeigaigh, Executive Director des Cambridge Centre for Study Existential Risk.
AI kann neue Bedrohungen darstellen oder die Art bestehender Bedrohungen über die Cyber-, physische und politische Sicherheit hinweg verändern“.

Die derzeit gängige Praxis, beispielsweise “Phishing” – also das Versenden von E-Mails, die mit Malware versehen sind oder darauf ausgelegt sind, wertvolle persönliche Daten zu evaluieren – könnte weitaus gefährlicher werden.

Gegenwärtig sind Phishing-Versuche entweder

  • generisch, aber transparent – wie z.B. Betrüger, die Bankdaten verlangen, um unauthorisiert Kontobewegungen durchzuführen, oder
  • personalisiert, aber arbeitsintensives Erlangen von persönlichen Daten, um das Vertrauen von jemandem zu gewinnen, bekannt als Spear-Phishing.

O’HEeigaigh:”Durch die Verwendung von AI könnte es möglich werden, Spear-Phishing in großem Maßstab zu betreiben, indem ein Großteil des Prozesses automatisiert wird“.

Um es nochmal in Erinnerung zu rufen: mir geht es nicht darum, KI zu verteufeln, sondern dass die bisherigen Pläne der Bundesregierung (nicht nur in Deutschland) verhindern bzw. es gar nicht vorsehen, dass sich Medienkompetenz in der Bildung durchsetzt und das technische Verständnis der Bevölkerung an den aktuellen Stand der Möglichkeiten angeglichen wird.
Die Debatte bei Datenschutz “Ich hab doch nichts zu verbergen” zeigt sehr deutlich, dass der Großteil derer, welche vernetzte Kommunikation alltäglich nutzt, naiv und vollkommen unzureichend mit dem Thema vertraut ist!

Manipulation der öffentlichen Meinung

In der politischen Sphäre können skrupellose oder autokratische Führer bereits fortschrittliche Technologie einsetzen, um Berge von Daten aus omnipräsenten Überwachungsnetzen zu durchsuchen, um ihre eigenen Leute auszuspionieren.
“Diktatoren könnten schneller Menschen identifizieren, die ein Regime untergraben wollen, sie lokalisieren und ins Gefängnis stecken, bevor sie handeln”, warnte auch bereits Edward Snowden.

Ebenso sind gezielte populistische Propaganda zusammen mit billigen, jedoch höchst glaubwürdig gefälschten Videos und Fotos zu mächtigen Werkzeugen geworden, um die öffentliche Meinung “in vorher unvorstellbaren Maßstäben” zu manipulieren, berichten wiederholt einschlägige Nachrichtenargenturen und Organisationen.

Eine Anklage, die 2017 vom US-Sonderermittler Robert Mueller überreicht wurde, enthielt eine umfangreiche Operation, um die soziale Spaltung in den Vereinigten Staaten zu säen und die Präsidentschaftswahlen 2016 zu beeinflussen, in denen sogenannte “Trollfarmen” Tausende von Social Network-Bots Twitter manipulierten.

Eine weitere Gefahrenzone am Horizont ist die Verbreitung von Drohnen und Robotern, die für den Absturz von autonomen Fahrzeugen, die Lieferung von Waffen oder deren Bestandteilen oder die Bedrohung kritischer Infrastrukturen für Lösegeldzwecke eingesetzt werden könnten.

Technischer Fortschritt bei Terroranschlägen

Ich persönlich bin besonders besorgt darüber, dass autonome Drohnen für Terror und automatisierte Cyberattacken sowohl von Kriminellen als auch von staatlichen Gruppen verwendet werden“, sagte Co-Autor Miles Brundage, Forscher am Future of Humanity Institute der Universität Oxford.

Der Bericht gibt ein plausibles Szenario vor, in dem ein mit einer Bombe ausgerüsteter Büroreinigungs-SweepBot das deutsche Finanzministerium infiltriert, indem er sich mit anderen Maschinen derselben Marke vermischt. Der eindringende Roboter verhält sich normal – fegen, säubern, Müll entsorgen – bis seine versteckte Gesichtserkennungssoftware den Minister entdeckt und einsperrt.

Ein versteckter Sprengsatz wurde durch Nähe ausgelöst, tötete den Minister und verwundete Mitarbeiter in der Nähe“, heißt es in der Science-Fiction-Storyline.

Dieser Bericht hat sich vorgestellt, wie die Welt in den nächsten fünf bis zehn Jahren aussehen könnte“, sagte O’HEeigaigh. “Wir leben in einer Welt voller alltäglicher Gefahren durch den Missbrauch von KI, und wir müssen uns der Probleme annehmen.

Letztlich fordern die Autoren der Berichte politische Entscheidungsträger und Unternehmen dazu auf, Roboter-Betriebssoftware zunächst unbrauchbar bzw. nicht nutzbar zu machen, bestimmten Forschungsbereichen massive Sicherheitsbeschränkungen aufzuerlegen und erwägen, Gesetze und Vorschriften zur KI-Entwicklung auszuweiten, bevor die Weiterentwicklung fortgeführt wird.

Riesige HighTech-Unternehmen, vorallem die Führenden in der KI “sollten viele Anreize bekommen, um sicherzustellen, dass KI sicher und vorteilhaft ist“, heißt es in dem Berichten.

Autonome Waffen

Ein weiterer Bereich, der Anlass zur Sorge gibt, ist der erweiterte Einsatz von automatisierten tödlichen Waffen.
Letztes Jahr haben mehr als 100 Robotik- und KI-Unternehmer – darunter Tesla- und SpaceX-CEO Elon Musk sowie der britische Astrophysiker Stephen Hawking – die Vereinten Nationen aufgefordert, autonome Killerroboter zu verbieten und davor zu warnen, dass diese Waffen von unauthorisierten Personen z.B. von Terroristen benutzt werden könnten um Zivilisten zu bedrohen, zu schaden oder auch erpresserisch Nationen unter Druck setzen können. Und final ist es heute schon möglich, Bekennerhinweise zu den Taten so zu manipulieren, dass die ursprünglichen Täter gar nicht erkannt werden.

Lethal Autonomous Weapons, also autonome tödliche Waffensysteme drohen, die dritte Revolution in der Kriegsführung zu werden” – nach der Erfindung von Maschinengewehren und der Atombombe, warnte in einer gemeinsamen Erklärung, die auch von Google-DeepMind Mitbegründer Mustafa Suleyman unterzeichnet wurde.

Finale Aussage

Wir müssen handeln. Sobald diese Büchse der Pandora geöffnet ist, wird es schwer sein sie wieder zu schließen.
Zu den Teilnehmern des neuen Berichts mit dem Titel “Der böswillige Einsatz von künstlicher Intelligenz: Vorhersage, Prävention und Milderung” gehören auch Experten der Electronic Frontier Foundation, des Zentrums für eine neue amerikanische Sicherheit und OpenAI, einer führenden gemeinnützigen Forschungseinrichtung Unternehmen.
“Ob AI alles in allem ist, hilfreich oder schädlich auf lange Sicht ist, ist größtenteils ein Produkt dessen, was Menschen tun, nicht die Technologie selbst”, sagte Brundage.

Diese Auseinandersetzung ist jedoch nur möglich, wenn sich das Interesse zu diesem Thema erweitert und die Bevölkerungen der Nationen sich bewusst werden, das selbst das Smartphone ein Teil dieser Technologie darstellt.

Beginnen Sie mit einem gesunden Verständnis ihres Verhaltens im (Ä)Ether. Seien Sie kritisch bei E-Mails. Ausgewogen, nicht paranoid. Besuchen Sie eine CryptoParty und erlernen Sie die Mindestvoraussetzungen für digitale Selbstverteidigung. Gehen Sie kritischer mit den Produktversprechen bei technischen Geräten um, behaupten Sie niemals wieder “Sie hätten nichts zu verbergen!”
Beteiligen Sie sich an den öffentlichen Diskussionen zum Beispiel um den Hessentrojaner und fordern Sie die Bundesregierung auf, auf den Einsatz solcher Software zu verzichten und drängen Sie zur Anhebung der Sicherheitsstandards, fordern Sie Medienkompetenz an Schulen und vielleicht fördern Sie via Spenden die eine oder andere Organisation oder Verein, die sich damit beschäftigt, wie zum Beispiel CCC, DigitalCourage, EFF, Freifunk.

Bleiben Sie aktiv und überlassen Sie diese Diskussion nicht jenen, die lösungsverliebt flächendeckende und anlasslose Vollüberwachung für Terrorlösung und Sicherheit halten.

LG