Medienethik:

„Der Mensch ist kein Objekt“

von am 24.02.2016 in Allgemein, Archiv, Datenschutz, Digitale Medien, Internet, Interviews, Medienethik, Medienwirtschaft, Plattformen und Aggregatoren

<h4>Medienethik:</h4> „Der Mensch ist kein Objekt“
Yvonne Hofstetter, Geschäftsführerin der Teramark Technologies GmbH

Technik-Ethos soll Missbrauch von Humandaten verhindern

25.02.16 Interview mit Yvonne Hofstetter, Geschäftsführerin der Teramark Technologies GmbH

Yvonne Hofstetter ist Geschäftsführerin eines Unternehmens, das sich auf die Verarbeitung großer Datenmengen und auf deren Basis der Entwicklung künstlicher Intelligenz spezialisiert hat. In einem Buch und in Vorträgen warnt sie davor, dass mit der Verknüpfung von Humandaten Menschen „prognostiziert und optimiert“ werden können. „Wenn der Mensch wie ein Objekt behandelt wird, dann verstößt das gegen die Menschenwürde und das Recht auf Selbstbestimmung. Deshalb ist es ein Problem, wenn Humandaten genauso verarbeitet werden wie Daten, die von einem Intercity erzeugt werden oder von einer Anlage“, so Hofstetter in einem medienpolitik.net-Gespräch. Die Politik müsse sich sehr viel stärker durch die Komplexitätsforschung beraten lassen. In Amerika hätten Juristen die Forderung nach einem Ministerium erhoben, das sich mit künstlicher Intelligenz beschäftigt.

medienpolitik.net: Frau Hofstetter Industrie 4.0 ist der aktuelle wirtschaftspolitische Zukunftsmythos. Industrie 4.0 basiert auf der Auswertung großer Datenmengen. Das muss Sie als Unternehmerin, die sich auf die Auswertung großer Datenmengen spezialisiert hat, doch in Euphorie versetzen. Woher kommt Ihr kritischer Blick?

Yvonne Hofstetter: Laut einer Umfrage aus dem Sommer 2015 haben 88 Prozent der Deutschen noch nie den Begriff Industrie 4.0 oder Internet der Dinge gehört. Die Begriffe scheinen nur in der Fachpresse und den Feuilletons verwendet zu werden. Was ist Industrie 4.0? Es ist ein relativ deutscher Begriff und wenn man es auf das „Industrial Internet of Things“ beschränkt, wie es international heißt, dann bin ich durchaus begeistert. Denn wenn man Daten aus der produzierenden Industrie, zum Beispiel Messwerte aus Sensoren an Flugzeugturbinen wie Druck, Temperatur, Gaszusammensetzung erhält und verarbeitet, dann kann man mit dem Einsatz künstlicher Intelligenz komplexe Anwendungen entwickeln, zum Beispiel die vorbeugende Wartung.

medienpolitik.net: Aber was ist der Unterschied zwischen „Internet of Everything“, und dem „Industrial Internet of Things“?

Yvonne Hofstetter: Bei „Industrial Internet of Things“ werden keine Humandaten verarbeitet, also Daten, die Menschen erzeugen. Ein Problem ergibt sich erst dann, wenn so alles überwacht werden kann. Also auch der Mensch, und darauf läuft es hinaus. Im „Internet of Everything“ werden neben den Daten von Sachen auch Daten von Menschen erfasst, gespeichert, analysiert, der Mensch wird prognostiziert und optimiert. Der Mensch ist aber keine „Sache“, er hat Freiheitsrechte. Unser Recht bezeichnet eine Person deshalb auch als Rechtssubjekt, als Träger von Rechten und Pflichten. Das ist in allen europäischen Verfassungen verankert. Wenn aber der Mensch wie ein Objekt behandelt wird, dann verstößt das gegen die Menschenwürde und das Rechtauf Selbstbestimmung. Deshalb ist es ein Problem, wenn Humandaten genauso verarbeitet werden wie Daten, die von einem Intercity erzeugt werden oder von einer Anlage.

medienpolitik.net: Wenn ich an die Rede des Bundeswirtschaftsministers Sigmar Gabriel auf der Hannover-Messe vom letzten Jahr denke und die Ausführungen der Bundesregierung zur Digitalstrategie, dann geht es darum, Industriedaten mit Humandaten zu verknüpfen, um die Bedürfnisse der Menschen besser befriedigen zu können. Es ist doch kein negatives Ziel, zu wissen was der Einzelne wünscht, um dann noch maßgeschneiderter Produkte herstellen zu können?

Yvonne Hofstetter: Sie sagen, worum es geht. Big Data und die Vernetzung und Interaktion die dadurch entsteht, ist das Betriebssystem des globalen digitalen Kapitalismus. Es dient nur dazu mehr zu produzieren und mehr Wachstum zu erzielen. Natürlich ist die Regierung daran interessiert, aber man muss sich auch fragen: Wer profitiert von dem Wachstum? Wer ist der Treiber der Digitalisierung? Es sind Anbieter aus dem Silicon Valley. Da schließe ich mich Günther Oettinger an, der im Dezember letztes Jahres sagte, das wir die digitale Schlüsselkompetenz und Schlüsselindustrie in Europa verloren haben. Europa mischt nicht mehr mit, bei iPhone, Samsung, Android, LinkedIn, WhatsApp, oder Facebook. Es ist kein einziger europäischer Anbieter dabei. Die Frage ist deshalb: Wer verarbeitet die Daten? Haben wir in Europa die Industrie, die mit diesen Daten arbeitet? Diese negative Bilanz kenne ich aus eigener Erfahrung, ich bin mit meinem Unternehmen, das künstliche Intelligenz für den operativen Betrieb in der Industrie, weit und breit das einzige Unternehmen in ganz Europa. Ich kenne keine einzige Konkurrenz.

medienpolitik.net: Allein aus der Tatsache, dass die Unternehmen aus Amerika kommen, müssen sie ja nicht inhuman sein. Wir haben auch andere technische Produkte, die nicht in Europa entstanden sind, von anderen importiert und das ist doch nicht gleich negativ.

Yvonne Hofstetter: Wenn man im Ausland Produkte einkauft, dann importiert man damit oft auch ein anderes Werteverständnis. Zum Beispiel wenn man billige Kleidungsstücke importiert, dann unterstützt man damit den Herstellungsprozess in Vietnam oder Pakistan, der vielleicht unter menschenunwürdigen Bedingungen stattfindet. Und wenn man Produkte aus den USA einkauft, kommt häufig ein anderes Werteverständnis mit. In Geräten aus den USA ist die Überwachung des Menschen beispielsweise direkt eingebaut. Die Software der Geräte ist nicht mit unserer Rechtsordnung im Einklang und unserem Verständnis der Menschenwürde. Die Amerikaner haben ein völlig anderes Verfassungsverständnis. Ihr Verfassungsverständnis ist nicht wie bei uns in Europa zuerst die Menschenwürde, ihr Verfassungsverständnis beruht auf Liberty, im Sinne von frei sein von Regulierung. Die Amerikaner wollen ganz frei mit Daten handeln, ohne dass der Staat eingreift, ohne dass sie beschränkt werden. Sie wollen mit diesen Daten manipulieren, die wollen sie analysieren und damit prognostizieren. Die Amerikaner kennen es auch nicht anders aus ihrer Rechtstradition, weil es schon immer so gemacht worden ist, z.B. mit Kreditkartendaten. Dahinter steht die Idee eines freien Marktes. Je mehr man über den Kreditkarteninhaber weiß: wie viele Kredite er hat, wie er zurückzahlt, ob er ein guter oder schlechter Schuldner ist, umso schneller kann entschieden werden, ihm wieder einen Kredit zu geben, und je schneller kann er am Marktgeschehen teilnehmen.

medienpolitik.net: Deutschland ist gegenwärtig ein wirtschaftlich prosperierendes Land. Wir profitieren noch von der Globalisierung. Nun müsste man doch der deutschen Industrie empfehlen, ebenso mit Daten zu handeln, damit sie im Wettbewerb nicht unterliegt?

Yvonne Hofstetter: Das passiert ja auch. Die meisten Menschen wissen es nur nicht. Deutsche Unternehmen gehen vielfach davon aus, dass Produktion nicht profitabel genug ist, weil man Personal benötigt und sind deshalb dabei, die Produktionen zurückzubauen. Große Elektronikhersteller wie Siemens, stoßen produktionslastige Betriebszweige ab. Sie wollen in Zukunft in ihren Unternehmen keine Innovationen mehr selbst entwickeln, sondern kaufen diese billig ein. Es ist ihr Ziel, Finanzunternehmen und Investoren zu werden. Sie wollen von kleinen Start-ups, die neue konstruktive Ideen haben partizipieren und in diese investieren. Innovationen in das eigene Know-how, sind zu teuer, die Unternehmen wollen nur noch Risiko-Kapitalgeber werden. Auch BMW produziert immer weniger in Deutschland. Es gibt ein Werk in Dingolfing, was nicht einmal das Größte ist. Das größte Werk von BMW steht in Brasilien und von den neuen Elektroautos wird das Chassis in Kalifornien gefertigt und die Batterie kommt aus Südkorea, weil wir hierfür nicht mehr das Know-how haben. In Grunde genommen sind die Daten dieser neuen Ökonomie Milliarden Wert. Im 21. Jahrhundert und seiner digitalen Ökonomie wird die einzige Existenzberechtigung für Konzerne wie Siemens oder IBM darin bestehen, dass sie über die Daten ihrer Kunden verfügen. Auf Grund dieser Daten können sie den Kunden zugekaufte Services anbieten. Und wenn die Daten wegfallen würden, gibt es keinen Grund mehr, dass diese Konzerne noch bestehen. Das ist eine gefährliche wirtschaftliche Situation, in die diese Entwicklung geht. Wenn ein Konkurrent über mehr Geld und mehr Daten verfügt als ein solcher Konzern, beispielsweise Google, dann bedeutet es, dass man mit mehr Daten und mehr Geld die Konkurrenz leichter aus dem Weg räumen kann. Darin zeigt sich, wie extrem wichtig unsere Daten sind, denn das ist das Lebenselixier dieser Konzerne, die nicht mehr produzieren wollen, sondern nur noch von der Nutzung der Daten leben.

medienpolitik.net: Noch einmal zurück zu Ihrer provokanten Formulierung, dass man mit diesen Daten die Menschen steuern will. Man möchte Absatzmärkte optimieren, besser die Bedürfnisse kennen. Aber der Mensch ist ein handelndes Wesen, was auch gegensteuert. Mit welchem Ziel soll die Steuerung erfolgen?

Yvonne Hofstetter: Da möchte ich Ihnen ein Beispiel aus der Ukraine, aus Kiew, geben und zwar vom Maidan. Da ist folgendes passiert: An einem Tag sind viele Menschen auf den Maidan gegangen und haben dort demonstriert. Die alte Regierung hat das aufgezeichnet. Die Leute organisieren Demonstrationen über das Smartphone und tragen es während der Demonstration bei sich. Dieses Smartphone muss zu dem Zweck am Internet hängen, d.h. es sendet ständig eine unique MAC-ID aus, eine eigene Kennung des Handys, mit der Eigentümer identifiziert werden kann. Apple hat es geschafft, die Handys mit den Kreditkarten zu koppeln und da steht der Klarname darauf. Einen Tag später hat die Regierung allen Demonstranten eine SMS geschickt, mit der Information, dass sie als Teilnehmer an einem Massenaufstand registriert sind. Die Manipulation setzt ein, wenn der Demonstrant darüber nachdenkt, ob er am nächsten Tag noch zu dieser Demonstration geht. Diese Art der Steuerung und Manipulation wird zunehmen.

medienpolitik.net: Das Wirtschaftsministerium arbeitet daran, den Umgang mit Daten für unsere Wirtschaft auszubauen. Andererseits gibt es auch aus der Politik kritische Stimmen, die die Regulierung verschärfen wollen. Wie ehrlich ist die Politik? Kann sie auf der einen Seite propagieren mehr Daten zu erfassen und zu nutzen, aber gleichzeitig mehr Regulierung fordern?

Yvonne Hofstetter: Da muss man genau hinschauen, wer das sagt. Unsere nationale Regierung ist extrem konzernfreundlich, und nicht sehr mittelstandsfreundlich. Von ihr kommt jegliche Unterstützung für mehr Datenerfassung. Regelungen, die den Datenschutz verbessern sollen, kommen vor allem von der EU. Die neue Datenschutzgrundverordnung hat uns das EU-Parlament quasi unter den Weihnachtsbaum gelegt und wird in den nächsten Jahren Gesetz werden. Dazu kommen diverse Urteile des Europäischen Gerichtshofes. Zum Beispiel das Google-Löschungsurteil, oder Herr Schrems mit seinem Facebook-Urteil. Es ist das erste Mal, dass sich der Europäische Gerichtshof mit Menschenrechten im Zusammenhang mit der Nutzung von Daten auseinandersetzt. Das heißt, von der EU kommen die richtigen Signale, damit die Datennutzung in Einklang mit unserer Rechtordnung und unserer Verfassung steht.

medienpolitik.net: Diese Regelung wird in ein bis zwei Jahren deutsches Recht. Dann ist doch alles in Ordnung…

Yvonne Hofstetter: Wir haben dann zwar hier strengere Regulierungen, aber die richten sich nur an den Datenschutz. Die Digitalisierung und Big Data haben noch viele andere Aspekte, die wir gar nicht angesprochen haben. Kann der Staat steuern? Was ist wenn Big Data, hinter dem künstliche Intelligenz steckt, Zugriff auf die Macht hat oder missbraucht wird? Was bieten die künstlichen Intelligenzen für Möglichkeiten? Was macht die Digitalisierung mit unserer Arbeit? Es gibt bereits Studien die festgestellt haben, dass 50 Prozent aller Berufsbilder, die wir heute haben, in 15 Jahren nicht mehr existieren werden. Sie sind durch Maschinen wegrationalisiert.

medienpolitik.net: Wenn ich es richtig beobachte, steht die Entwicklung künstlicher Intelligenz ganz am Anfang, wie real ist diese Zukunftsvision?

Yvonne Hofstetter: Wir entwickeln bereits seit 20 Jahren künstliche Intelligenz. Unsere künstliche Intelligenz ist ausgereift. Allerdings wird künstliche Intelligenz in Europa bisher nicht eingesetzt. Die USA und China sind uns um Längen voraus. Künstliche Intelligenz ist hier schwierig in den Markt zu bringen. Man benötigt künstliche Intelligenz um in Echtzeit komplexe Systeme zu steuern. Vernetzung und Interaktion machen Systeme komplex. Und komplexe Systeme sind nicht mehr durch herkömmliche Verfahren wie Geschäftsprozesse, Gesetze und strikte Regeln zu steuern. Vernetzung führt zur Interaktion und zum Feedback. Man muss sich in die Feedback-Schleife hineinhängen, um das System steuern zu können. Das kann künstliche Intelligenz. Es muss auch in der Unternehmensführung komplett umgedacht werden, denn ein Geschäftsprozess reagiert nicht auf eine sich verändernde Datenlage. Durch die hohe Interaktion in der Gesellschaft ändern sich die Datenlagen permanent und die statistischen Eigenschaften des Systems.

medienpolitik.net: Wenn die Probleme im Zusammenhang mit Big Data nicht mehr mit Gesetzen regelbar sind, wie kann dann die Politik überhaupt noch eingreifen?

Yvonne Hofstetter: Es gibt zwei Möglichkeiten, wie die Gesellschaft steuern kann: einmal durch Gesetze, Regeln, Vorschriften, Verfahrensvorschriften, was nicht mehr so richtig funktioniert, oder durch eine Institution. Eine Institution, die in Echtzeit sehr schnell Stimuli setzen kann und sofort nachsteuert. So eine Institution gibt es in Europa. Es ist die Europäische Zentralbank. Nun stellt sich die Frage, ist es demokratisch legitimiert, in das komplexe System des Euro einzugreifen? Das ist das Spannungsfeld, in dem wir uns in der digitalen Ära bewegen werden.

medienpolitik.net: Das heißt, sie fordern eine adäquate Institution, wie die Europäische Zentralbank?

Yvonne Hofstetter: Fragen Sie mich bitte noch einmal in einem halben Jahr. Ich mache mir darüber gerade Gedanken. Ich bin noch nicht zu einer endgültigen Einsicht gekommen. Solche Institutionen wie die EZB sind wichtig, ohne diese wäre das System des Euro schon längst zusammen gebrochen.

medienpolitik.net: Zu Ihren Forderungen gehört auch ein digitaler Technik-Ethos. Der muss doch von jemandem erarbeitet, kontrolliert und durchgesetzt werden. Das müsste doch so eine Institution übernehmen?

Yvonne Hofstetter: In komplexen Systemen regelt sich vieles selbst. Wir sprechen von Selbstorganisation. Bei dem Technik-Ethos setze ich auf selbstorganisierende Impulse, die aus der Wissenschaft kommen. Im Sommer 2015 haben 20.000 Wissenschaftler, Unternehmer und Investoren hauptsächlich aus den USA einen offenen Brief über den Umgang mit künstlicher Intelligenz geschrieben, in dem formuliert ist, wie künftig damit umgegangen werden muss, damit sie dem Menschen nicht schadet. Es geht darum, dass der Mensch die künstliche Intelligenz unter Kontrolle hat und nicht anders herum. Dieses Jahrhundert werden wir über künstliche Intelligenzen verfügen, die der menschlichen Intelligenz überlegen sind. Heute sind sie nur in den spezifischen Aufgaben, die ihnen zugewiesen sind, intelligent. Sie sind noch nicht allgemein intelligent wie der Mensch. Das wird sich in den nächsten Jahrzehnten ändern.

medienpolitik.net: Wie weit sind hier Forschung und Entwicklung?

Yvonne Hofstetter: Wir sind sehr weit. Jetzt wird kapitalisiert, was in den letzten 50 Jahren und insbesondere in den letzten 20 Jahren entwickelt wurde, weil es die erforderlichen Rechner und Speicherkapazitäten gibt. Einer der führenden Forscher, Professor Jürgen Schmidhuber vom IDSIA in der Schweiz, entwickelt beispielsweise mit seinem Team einen künstlichen Kapuzineraffen, mit allen erforderlichen Überlebensstrategien. Und es wird keine 10 Jahre mehr dauern, bis sie diesen Affen implementiert haben. Der Affe kann dann vieles, was auch ein Mensch kann, nur kann ein Mensch mehr davon. Der Schritt vom künstlichen Kapuzineraffen zum künstlichen Menschen ist dann nicht mehr weit.

medienpolitik.net: Wo sehen Sie aktuellen politischen Handlungsbedarf?

Yvonne Hofstetter: Die Politik muss in die Zukunft denken und analysieren, wie sich die Gesellschaft entwickelt. Die Digitalisierung macht unsere vormals nicht so komplexen Systeme durch die extreme Zunahme der Interaktion viel komplexer. Es gibt viel mehr Oszillation im Gesamtsystem und die Krisen sind immanent. Ein komplexes System ist immer dicht am Chaos. Die Frage ist, wie man die Systeme von Krisen und Unfallpunkten fernhält. Zum Beispiel von Schnittstellen, an denen die Demokratie, Europa oder der EURO unumkehrbar kippen. Die Politik muss sich sehr viel stärker durch die Komplexitätsforschung beraten lassen. In Amerika haben Juristen die Forderung erhoben, dass es ein Ministerium geben muss, was sich mit künstlicher Intelligenz beschäftigt. Wir befinden uns in einer neuen Entwicklungsphase der Menschheit und nun muss sich auch die Politik darauf vorbereiten wie mit diesen Veränderungen umzugehen ist. Die Politik muss sich hierbei der Forschung bedienen, die die Welt simulieren kann, da wir heute über die Daten dafür verfügen.

medienpolitik.net: Welche Konsequenzen ergeben sich für die Medien aus dem bisher gesagten?

Yvonne Hofstetter: Probleme sehe ich vor allem durch die großen Internetgiganten, wie Google oder Facebook. So ist YouTube inzwischen selbst zu einem Medienanbieter mit eigenen Inhalten geworden. Auch Google ist ein versteckter Medienanbieter, weil die Suchergebnisse, die der Google-Algorithmus erstellt für jeden Menschen anders ist, weil wir uns in einer Filterblase befinden. Die Qualität und die Nutzung der Medienangebote haben sich durch die neuen Medienanbieter nicht zum Vorteil verändert. Sie machen mit ihren Algorithmen was sie wollen. Auch Facebook ist personalisiert und hält die Menschen in einer Filterblase gefangen. Der Algorithmus für den Newsfeed wird von 16 Menschen gemanagt und von 1,4 Milliarden Nutzern gelesen. Das Problem ist, dass diese Unternehmen nicht wie Medien reguliert sind und der Pluralismus, die Meinungsvielfalt durch diese Internetgiganten extrem eingeschränkt werden. Wir haben deshalb heute keine größere Medien- und Meinungsvielfalt, sondern durch die Bedrohung der klassischen Medien eher eine Verringerung und Begrenzung. Diese globalen Mediengiganten gehören zu den größten Datensammlern, die das Interesse der Menschen an Information und Unterhaltung missbrauchen, um mit Hilfe dieser Daten auch in andere Branchen zu expandieren und hier ihre Steuerungssysteme zu etablieren.

Der Beitrag wurde in der promedia-Ausgabe Nr. 2/2016 erstveröffentlicht.

Print article

Kommentieren

Bitte Pflichtfelder ausfüllen