zuwenden. Wir sind sehr glücklich, dass Lorena junge Palasie heute Abend bei uns ist.
Sie ist Politikwissenschaftlerin, unter anderem Dozentin am Lehrstuhl der Lehrstufe Philosophie 4,
der Ludwig Maximilians Universität in München. Aber der Grund,
warum wir sie eingeladen haben, ist,
dass sie Mitgründerinnen und Geschäftsführerinnen, also Executive Director von Algorithm Watches,
Algorithm Watch, das wissen sie,
ist eine gemeinnützige Organisation, die das Ziel verfolgt,
algorithmische Prozesse der Automatisierung zu betrachten und in Bezug auf ihre gesellschaftliche Relevanz einzuordnen.
Vielleicht haben Sie auch von dem Projekt gelesen,
dass im Sommer dieses Jahres Schlagzeilen gemacht hat, die sogenannte Datenspende.
Das war, ich weiß nicht, ob Sie noch darauf
eingehen in Ihrem Vortrag. Also es war eine sehr wichtige Aktion,
die die Teilpersonalisierten Resultate, die man bekommt,
wenn man bei Google sich nach den Kandidatinnen der Bundestagswahl erkundigt hat,
dann jeweils differenziert auf das eigene Profil erhalten hat.
Ich weiß nicht, was die Auswertung bisher ergeben hat,
aber es war ein sehr interessantes Projekt.
Die Forschungsgebiete von Frau Junge Palasie liegen hauptsächlich tatsächlich in der Ethik der Digitalisierung und Automatisierung.
Und sie befasst sich in diesem Zusammenhang auch mit rechtsphilosophischen Fragen,
so auch heute Abend. Sie ist Ucerius Fellow,
der Bucerius Stiftung und hat die Dynamic Coalition on Publicness,
das UN Internet Governance Forum, mitgegründet.
Sie ist Mitglied des Beirats der Initiative Pode Red gegen Massenüberwachung
und leitet auch das Sekretariat der deutschen Sektion des Internet Governance Forum
sowie Projekte zur Internet Governance in Asien und Afrika.
Sie hat diverse Publikationen zur Internet Governance mitverfasst und herausgegeben und schreibt regelmäßig zu Datenschutz,
Privatheit und Öffentlichkeit, zur öffentlichen Gütern und Diskriminierung.
In den vergangenen Sitzungen dieser Vorlesungsreihe haben wir,
wie sie sich erinnern können,
das Thema Putz zunächst aus der Perspektive des politischen Aktivismus angeschaut,
um dann die rechtliche Regulierung und danach auch eine soziologische Perspektive auf das Walten von Bots uns anzuschauen.
Heute Abend geht es hauptsächlich um die Regulierung von Bots
aus ethischer Perspektive.
Sehr willkommen
Wie viele es aufsetzt, das finde ich. Ja.
Erster Herausforderung. Mikrofon, Brennzug kriegen. Ja. Dankeschön.
Vielen Dank für die freundliche Vorstellung und auch für die Einladung.
Ich freue mich sehr, hier sein zu können.
In der Tat, also ich möchte heute aus der ethischen
Perspektive die Frage der Regulierung vom Wort,
also die Frage vom Wort
überhaupt dann sprechen
Ethik hat viel mit Kontextualisierung auch zu tun. Natürlich bedeutet das,
wenn man sich im ethischen Bereich beschäftigt,
dass man eine gewisse Abstraktheit bewahren muss,
aber die sehr abstrakte Kanua geboten werden,
wenn man tatsächlich sich anschaut, worum geht es hier eigentlich genau,
insbesondere in einem Bereich, das recht spezifisch ist,
nämlich an Informationsedischen oder Technologie ethischen Bereich.
Daher würde ich gern mit Ihnen natürlich wie in jedem guten
deutschen Institut würde ich erstmal gerne mit der Definition anfangen,
aber dann würde ich gerne diese Vorstellung des Samplifizierens der eigenen Stimme,
desjenigen von dem, was man sagt,
historisch erstmal kurz einbetten, bevor wir auf das Edische übergehen.
Was ist ein Bot? Ein Bot ist eine automatisierte Anwendung,
die ich verwendet werde,
um einfacher und sich wiederholende Aufgaben auszuführen,
die für ein Mensch
zeitaufwendig oder unmöglich
durchzuführen werden
Soweit so gut. Ganz einfache Definition. Es gibt
jede Menge Arten von Boards. Es gibt Webcrawlers,
es gibt Spielboards, also zum Pokerspielern oder zum Tricksen.
Es gibt Shoppingboards und es gibt natürlich Sports für bösartige Zwecken,
also als Teil seines Virus, als Teil seiner sogenannten Botnetzes,
um tatsächlich den Nyal of Services-Attacken vorzunehmen.
Und es gibt natürlich klar eine Sprachwort, sogenannte Chartboards.
Aber bevor wir Diese technische Ausführung von Bordskarten hatten wir insbesondere,
wenn es um Chartboards geht, also kleiner Sprachroboter, die am Endeffekt genau genommen,
was sie machen, ist, die eigene Stimme zu amplifizieren.
Hatten wir ähnliche Strategien, um tatsächlich die eigene Stimme mehr Gewicht zu verleihen? Und sie würden sich wundern,
man muss in der Tat fast immer in der Politikwissenschaft bei der Antike anfangen,
wenn man politische Theorie macht, und das möchte ich auch hier machen,
in der Tat, in der Antike, im Sparta,
in der Eglesia, die sogenannte Bürgerversammlung,
würde nicht durch einen Mensch eine Stimme gewählt,
sondern oder Gesetzesverlagen zugestimmt, sondern es würde per Akklamation gewählt.
Das heißt, diejenigen, die am lautesten geschrien haben,
haben sozusagen entschieden, ob das Gesetz angenommen oder abgelehnt würde. Und natürlich,
wenn man mit diesem Fokus die eigene Stimme zu amplifizieren und eigene Interessen,
konsequent und systematisch in der Öffentlichkeit zu setzen,
wenn Bots so verstanden werden, können wir natürlich auch sagen,
dass sogar im Mittelalter eine Form vom Strategie gab,
die im Mittelalltag hatten wir, wenn ich Vorstellung von Kommunikation.
Primär war der Mensch dafür da, seine Ausgaben aus seiner Aufgaben auszuführen.
Und als Bauer war Zeit, eines der wenigen Elementen,
der eine öffentliche Kommunikation konstituierte, also die Vorstellung einer Uhr,
die der Mensch sagte, wann er zu beten kann,
wann er zu arbeiten kann, wenn ich zu schreiben kann,
dass er begann für den Bauarbeiter
Und aus diesem Bereich des Symbole, wie eine Uhrzeit,
wie eine Kirche,
die im Prinzip die Aufgaben am Tag strukturierte,
ging mit der Merkantilisierung, mit der Entstellung eines Bürgertums,
mehr und mehr, die zusätzliche Formen in der Kommunikation,
die Fundbedeutung waren,
Könige hatten natürlich ihre Korrespondenten,
die Dahn von Königreichs und Kundigreich gegangen sind und tatsächlich einfach
Messe zu verstehen,
was für Nachrichten gab
Aber der Markt, der hat anders agiert.
Da ging es nicht darum, ohne Informationsgewinnung und Verschaffung,
sondern dagegen so ein Informationsverstreuung. Die Fuga haben ein,
sind in Europa deswegen auch bekannt, weil sie natürlich mit deren Post,
mit der erste inzipierende Infrastruktur von einer Poststruktur,
die Nachrichtenlandschaft geprägt haben.
Damals würden Wirtschaftsakteure Nachrichten verfasst. Diese Nachrichten waren meistens vierseitig
, die hatten keinen Titel
Dich waren nicht unterschrieben, es gab kein Auto darin,
es war einfach nur einen vierseitigen Text,
der einfach bestimmte Informationen im Vordergrund gestellt haben.
Und diese Nachrichtenkarten häufig, der Name der Währung,
womit sie auch bezahlt würden. Daher Gazette,
die Gazette, das war die Währung in Venedig.
Und zugleich aber, dass man fläht,
womit tatsächlich Händler dann Nachrichten ausgetauscht haben und einfach bestimmten Interessen
im Blick der Öffentlichkeit
gestellt haben
Dann haben wir mehr und mehr weitere Vorstellungen, eine Institutionalisierung von Bots, die heralten.
Die Karalten waren die, das waren geschützte Persönlichkeiten,
die dann von Reich zu Reich gegangen sind.
Sie dürften keine Waffen tragen, aber sie waren diejenigen,
die die Masse zum Schweigen gebracht hat, wenn der König zu reden hatte.
Sie waren diejenigen, die den Krieg und das Frieden erklärt haben, Kundengütern haben.
Sie genossen besonderen Schutz und sie waren die Stimme,
die innerhalb der Länder königliche oder ja, Macht, als Machtinstanz,
nach außen die Macht gesprochen haben, vom ausgesprochen kann.
Aber auch heutzutage, mit der sozusagen Kreation der Verwaltung
stehen wir auch auf gewisse Art und Weise,
mit diesem Blickwinkel betrachtet, vor eine gewisse Standardisierung von Kommunikation.
Und vor eine gewisse sozusagen systematische Strukturierung von Kommunikation,
von Sprache und Das konnte er natürlich, also man könnte sagen,
dass öffentliche Verwaltung auf gewisse Art und Weise,
ähnlich wie ein Board, einfach sprachlich und strukturell agiert.
Es ist ja auch kein Wunder, dass mehr und mehr
Städte tatsächlich sich von Bots bedienen, um verschiedene Angebote,
aber auch verschiedene Teile der Verwaltung effizienter zu gestalten.
Natürlich haben wir aber auch die kommerzielle Dimension oder die privatrechtliche,
die zivilrechtliche Dimension, auch da haben wir weitere Methoden,
womit man versucht, die eigene Stimme mehr Gewicht zu verleihen in der Öffentlichkeit.
Und das war natürlich Ende des 19. Jahrhunderts,
Anfang des 20. Jahrhunderts, die Sumwitch-Männer.
Die würden natürlich vom Persil und weitere Unternehmen benutzen dafür,
dass sie in der Öffentlichkeit die eigenen Produkte laufend und schreiend vorstellen konnten.
Aber dasselbe galt natürlich für die Medien,
die sich auch von diesen sogenannten laufenden Litfaßsäule bedienen,
kann man bestimmte Nachrichten im Auge der Öffentlichkeit zu stellen.
Aber auch für die Wahlwerbung würden sie benutzt.
Also die Bilder, Sie Serien sind einerseits die Henkel AG,
als sie tatsächlich der weiße Riese geworben haben.
Ich hatte eine große Konkurrenz mit Persil.
Und dann kamen sie auf der anderen Seite,
die Reichspräsidenten Wahl und verschiedene Sandwich-Männer mit verschiedenen Parteiwerbungen,
die dann ausschreiend gegeneinander auf die Straße liefen.
Gut. Auch mit dem Blinkinel des Technologien hat man
ja von relativ frühzeitig sich von Technologien bedient und tatsächlich die
eigene Stimme mehr Gewicht zu verleihen
Sprich Megafone und Mikrofone, die gibt es elektronisch, seit dem 20. Jahrhundert, aber es gab auch andere Ausführmodelle. Sie sählen hier aus dem Kodex Kanadensis,
aus Kanada sozusagen, die Repräsentation eines Stammeskräupplingen,
der sich auch eines ähnliches Megafons aus Holz bedient hat,
um besonders wichtige Aussagen zu kommunizieren,
auch im Militär vor der Einführung von elektronischen Megafonen,
hat man das auch verwendet,
hier um die Soldaten zu wecken,
aber nicht nur und wie Sie sehen natürlich oder wie Sie viele erlebt haben,
wenn man in eine Bürgerversammlung geht,
dass in Demonstrationen sogenannte Demonstrationen sind mega vorne auch oder Mikrofone,
ein übliches Mittel,
die stimmen von den Führern und bestimmte Demonstrationen auch in besonderen Ausdruck zu verleihen und Gehör zu verschaffen.
Gut, und dann kam tatsächlich die erste,
nicht nur elektrische, sondern die erste elektronische Anwendung einer Spots.
Und die ist relativ alt. Das war Elisa 1966. Sie würde kreiert
als eine Art von elektronischen psychischen Berater oder einer Analyse.
Sie sehen hier einen kurzen Auszug aus einem Gespräch in dem Elisa,
einem Psychodoraboschum-Patient engagiert. Und da ging es bereits darum,
einfach zu zeigen, inwiefern Computer in der Lage waren,
menschliche Interaktionen zu simulieren.
Die Idee, die Sprache des Menschen,
über einen Computer zu replizieren, die war sogar noch älter.
Bereits alle unsere Church und Alan Tyrion hatten sich damit befasst.
Und das waren die 30er Jahre
Chardwords heute sind auf jeden Fall,
wir sind nicht sophistiziert als Leisa, wir haben Publisher-Bots,
also Boards, die benutzt werden, um Sachen zu veröffentlichen,
also Boards, die von Zeitungen verwendet werden, Boards,
die für Adi von Stadtverwaltungen verwendet werden oder von Parteien,
Personalbots, das sind Bots, die viele von ihnen vielleicht kennen,
also persönliche Assistenten wie Siri oder Alexa,
wir haben auch sogenannte Storybots, also Bots,
die tatsächlich versuchen, eine Geschichte zu erzählen,
durch die Kombinationen von verschiedenen Nachrichten, macht bestimmte Regelfolgen.
Wir kamen bei uns zum Spielen und wir kamen die sogenannte Chutterboards,
also Boards, Demand-Einsets zum Beispiel in Kundenzentren, in Krankenhäusern,
um Ferndiagnostik zu betreiben oder eben auch in weiteren kommerziellen Bereich.
Das kann von Finanzen, also Banken über HoundM und all
diese Läden jetzt mehr und mehr tatsächlich solche Boards verbinden.
Es ist sogar in die Breite gegangen, vielmehr, als man meint.
Facebook hat ein sogenanntes Spots for Messenger-Projekt gestartet und mit diesem Projekt können alle Institutionen,
die Interesse daran kamen, over Facebook einfach eigene Bots kreieren.
Es ist ja einfach, man braucht dafür nicht programmieren zu müssen
und man bedient sich nicht der eigene Datenbank und das ist relevant.
Darauf werde ich später eingehen. Es gibt aber natürlich,
wie bereits erwähnt, die Bots eben von der Stadtverwaltung.
Hier ist zum Beispiel passend zum Buddy-Programm, Toronto,
ne Entschuldigung, Kibbeck hat an Bord kreiert für Flüchtlinge,
damit sie wissen, wo sie sich anwenden können und müssen,
je nach sozusagen Flüchtling, also für den Flügel,
je nach Bedarf, also um besser zu verstehen und effizienter zu gestalten,
die Art und Weise, wie Flüchtlinge sicher eine Stadtverwaltung wenden.
Aber es gibt natürlich auch zum Beispiel Editierbots wie bei Wikipedia.
Die sind im Übrigen auch Gegenstand von großer wissenschaftlicher Aufmerksamkeit,
denn diese Bots sind nicht nur bekannt aufgrund der Vielzahlen,
die Wikipedia hat, sondern aufgrund eines permanentes gegenseitigen Botsstrahls,
die Wikipediabots streiten sich gegenseitig gegeneinander.
Das hat auch damit zu tun, dass Bots,
darauf werde ich auch nochmal später eingehen,
natürlich vom Menschen programmiert sind und jeder Mensch stellt seine eigene
Regelfolge und nicht Alle Bolts werden dann in der Regel folger miteinander kompatibel sein.
Und sie sind deswegen in der Öffentlichkeit geraten,
weil tatsächlich die Juni Oxford hat sich damit beschäftigt,
denn die Älteste Botsstreitigkeiten, die wir kennen, die jauern,
die dauern mittlerweile, ich glaube, fast zehn Jahre.
Und die existiert unter zwei Bolts. Also in Wikipedia gibt es viele Streitigkeiten zwischen Eventoren,
aber zwischen Bolts ist am lang aufhaltenden,
denn sie sind nicht leicht zu nerven,
beziehungsweise sie werden nicht,
sie lassen sich
nicht reizen
Mittlerweile, wie gesagt, Wats zu konstruieren, ist eine einfache Sache.
Es gibt sozusagen eine allgemeine Plattformen, die das vereinfachen.
Und es gibt auch Plattformen, die auch eine Bewertung zulassen,
die auch eine Übelsicht von Chartboards geben etc. Und was wir sehen,
ist, dass wir einen Wandel bei den Chartboards oder bei der Art und Weise,
wie tat wird, programmiert würden, begehen.
Jetzt wird es ein bisschen technisch, aber keine Panik.
Es wird nicht so technisch. Ich glaube,
dass bevor wir überhaupt über Ethik rennen können,
müssen wir ein bisschen verstehen, worum es hier geht.
Denn eines der Erfahrungen, die wir als Algorithm Watch haben,
ist tatsächlich, dass man wenn es um Fragen wie künstliche Intelligenz geht,
dass man bestimmte Annahmen über das,
was künstliche Intelligenz ist und künstliche Intelligenz kann, gemacht werden.
Und diese Annahmen sind unseres Erachtens Mythen und des Mythen und diese Prämissen,
diese falsche Annahme, möchte ich jetzt, bevor wir diskutieren,
über das Ethische, hiermit ein bisschen vorwegnehmen.
Wenn es um Worts geht, geht es primär um,
es sieht so aus,
normalerweise bei einfache Worts wie eine Art von Google
Man nimmt einfach den Satz, der die Person an
dem Sprachroboter schickt und man macht diesen Satz auseinander.
Man versucht verschiedene Merkmale zu finden, um zu verstehen,
ist das eine Wass-Frage, ist das eine Warum-Frage?
Ist das eine Wozu-Frage? Und dann geht man tiefer in
den Satz und versucht man zu verstehen, der Gesamtkontext,
man versucht zu verstehen,
ob es um eine spezifische geografische Frage geht oder eine finanzielle etc.
Das heißt, es wird sehr auseinander genommen diesen Satz und
man hat sozusagen verschiedene Kategorien in der Datenbank
Und so ein Algorithmus dahinter, die dann einfach das alles
bedienen muss, diese verschiedenen Kategorien durchsuchen muss.
Und es gibt dahinter eine Regelfolge. Diese Algorithmen waren bis
dato sehr einfach. Und deswegen bin ich effizient.
Und es rat mit der Natur von Algorithmen zu tun.
Mittlerweile sind sie effizienter geworden. Man benutzt sophistizierte Algorithmen.
Man redet sogar mittlerweile von künstlicher Intelligenz. Algorithmen ist die
kleinste Einhalte, in der Halb der künstlichen Intelligenz sozusagen.
Um das zu simplifizieren
Der Grund, weswegen sie so gut geworden sind, ist die Tatsache,
dass wir heutzutage viel mehr Rechenkapazität haben, mehr Speicherplatz haben.
Viele diese Algorithmen, die verwendet würden, waren sehr alt,
40 Jahre alt, 100 Jahre alt.
Aber sie waren nicht so sinnvoll anzuwenden, weil man eben
einfach technisch das nicht so im großen Stil verwenden konnte.
Nun gut, was ist ein Algorithmus?
Ein Algorithmus, wenn man eine Analogie nehmen will,
ist eine Spielanleitung
Und ob diese Spielanleitung ein Beispiel ist oder ein Brettspiel oder
ein Kartenspiel, das sei dahinter gestellt.
Das macht den Algorithmus nicht aus. Da geht es im
Prinzip nur um die Regelbeschreibung. Das ist ein Spiel,
in dem man X oder Y machen muss. Das,
was daraus wird, also das Kartenspiel oder das Brettspiel,
das ist das, was wir software nennen würden, das ist die Ausführung.
Und diese Ausführung kann eben so früher sein,
es kann aber auch ein Roboter sein, ein 3D-Roboter,
es kann alles möglich sein und es muss nicht mal im Internet stehen.
Also sprich Algorithmen sind nicht nur im Internet da
Und die komplexere Algorithmen, die können sich seltsam ein bisschen modifizieren.
Aber in allen Arten und Kategorien von Algorithmen,
die wir haben, reden wir über induktive Verfahrensweisen.
Also sehr vereinfacht und sehr grob gesagt reden wir hier über Statistik.
Und das ist sehr relevant. Warum? Weil Induktion ist eine Verfahrensweise,
die wir seit vielen Jahrhunderte kennen und die wir
immer wieder in der Wissenschaft benutzen,
aber durchaus auch immer wieder problematisieren
Weil es guckt die Empirie und versucht aus der Empirie sozusagen
eine Theorie zu machen. Und das tat ethische Probleme mit sich
. Ans der irdischen Probleme, die mit sich bringt,
ist, der sogenannte empiristische Feldschluss. Also spricht,
das, weil es in der Wirklichkeit etwas vorhanden ist,
dass man meint, dass das normativ auch gut sei.
Beispiel, viele Jahrhunderte lang gab es Sklaverei.
Nur weil es die Gabel hat, hieß es natürlich ethisch
nicht,
dass das okay war
Andererseits, was menschliche Intelligenz ausmacht, was auch einen großen Teil oder
einen wichtigen Teil der Wissenschaft, der menschliche Art und Weise,
wie er Logik verwenden oder überhaupt im Logikbereich funktioniert, ist das Deduktive.
Das Deduktive bedeutet das mal von der Abstraktion dann runtergeht.
Erstmal hat man eine Theorie und dann versucht man das durch die Praxis zu falsifizieren. Und wenn Sie sich zum Beispiel anschauen,
wie ein kleines Kind Sprache erwirbt, Sprache lernt,
wenn Sie sehen, dass Kannst,
wenn ich Daten setze, die das kleine Kind heuten,
sehr planen, Wortschatz und das Kind deduziert, imferiert,
wie man mit diesem Wortschatz, mit den kleinen Regeln,
die man von der Mutter und von dem Vater vorgelebt bekommt,
einfach die Sprache lernt.
Das kann eine Maschine nicht. Was in Maschine kam,
ist, einfach genau das Gegenteil. Eine Maschine analysiert Millionen
und Millionen und Trillionen von Datensätzen und versucht daraus Muster,
Sprachmuster zu erkennen. Und das ist der Grund,
weswegen sie, weswegen die Chartbonds,
weswegen die Sprachentwicklung in Technologien
immer hinterherhinkt
Man kannte in der Wissenschaft immer wieder versucht, zu gucken,
inwiefern dann doch nicht die Maschinen doch ein Mensch aufs Tricksen können.
Wie bereits erwähnt in den 30er Jahren,
sowohl an unserer Church als auch Alantoring, haben versucht zu testen,
inwiefern auch Maschinen in der Lage waren,
wie ein Mensch, Logik zu verwenden.
Das ist nicht der Touring-Test, das ist ein anderer,
der ist, das auch damals entwickelt wurde, aber das,
wovon ich rede, war die Frage zu sehen,
inwiefern Algorithmen in der Lage waren, Prädikatenlogik der ersten Ordnung anzuwenden.
Was ist das? Die Prädikatinlogik der ersten Ordnung ist die Logik,
die man verwendet, um zu argumentieren, um zu reden.
Und man hat festgestellt, dass, nein, Algorithmen,
induktive Verfahrensweisen, überhaupt alle induktive Verfahrensweisen,
können nicht über die Wahrheit von einem Satz wie Sokrates, ist eine Katze.
Einfach feststellen, ob das wahr ist oder entscheidend, also sprich,
sie können nicht über die Wahrheit dieses Satzes entscheiden, warum.
Weil dieser Satz in verschiedenen Welten unterschiedlich war oder falsch sein kann.
So gerade ist, kam die Katze von einem Nachbar sein,
so gratis, kann eine Kneipe in Athen sein,
es kann einen unglaublich coolen Club in Hamburg sein,
oder es kann auch ein Philosoph sein.
Es hängt vom Kontext ab. Und das verstehen induktive Verfahrensweisen
nicht. Sie könne nur eine Approduktivation geben.
Bereits in der Philosophie und in der Umwende und der Logik
hat man immer wieder gestritten,
nur was Logik bedeutet und was der Ergebnis von Logik ist
Zu Zeiten von Wittgensteins. Logik war einfach oder proproduzierte Gewissheit
. Aber was induktive Verfahrensweisen produzieren, ist nicht Gewissheit,
sondern Wahrscheinlichkeit. Und Wahrscheinlichkeit ist das Gegenteil von Gewissheit.
Gut. Nun, jetzt, dass wir festgestellt haben,
Chatbots sind nicht logisch.
Chatbots arbeiten induktiv
Was sind das überhaupt für Sachen dann? Ist das ein Roboter?
Was machen dann eigentlich Chartbots? Das ist der nächste Aspekt der Diskussion,
die ich denke, dass es wichtig ist,
dass wir uns erst mal vor Augen führen,
bevor wir eine ethische Diskussion anfangen können, ist das eine Datenverarbeitung?
Wir rennen hier über Roboter, die Daten schieben. Also sprich,
ein Twitter-Bot wird einfach, wenn man es sagt, Retweetel,
alle Tweets mit dem Hashtag XY, wird genau das tun.
Ist das Kommunikation? Ist das Datenverarbeitung? Was ist das
? Ja, es ist eine Datenverarbeitung
Kommunikation, da wird es schwieriger. Normalerweise verständen wir Kommunikation so,
dass es gibt einen Sender und es gibt einen Empfänger und es gibt dazwischen eine Nachricht.
Und hier haben wir erstmal einen Programmierer oder ein Unternehmen oder eine Partei.
Und die geben einfach einen Text so und eine Regelbefolgung an einem Roboter.
Und dann kommen wir auf der anderen Seite Menschen, die mit diesem Roboter interagieren.
Und was heißt denn das überhaupt? Ist das Kommunikation,
wenn man sagt, was der Sender,
dass der Sender der Nachrichten der Roboter selbst ist,
dann wäre es natürlich, kann man Kommunikation.
Wenn man sagt aber, das ist sozusagen eine Kommunikation über Umwege ist,
weil was wir auch hier haben, sind einfach Kommunikationen über eine Partei,
die außerhalb der üblichen Kommunikationskanäle steht,
dann kamen wir natürlich eine ganz andere Situation.
Warum ist das relevant? Weil wir natürlich,
wenn wir um Ethik reden,
haben wir zum Beispiel Vorstellungen oder Theorien
wie die Diskursartig
Die natürlich bestimmte Anforderungen hat für Sender, für Empfänger,
um für alle Diskursteilnehmer.
Und natürlich hat das mehrere Berkussionen, wenn wir sagen,
nein, hier geht es nicht um Kommunikation,
dann können wir die Regel der Diskursetik hier nicht anwenden.
Dann müssen wir einfach nach andere Regeln oder nach anderen ethischen Maßstäben suchen.
Wenn wir sagen, naja, also was wir hier haben,
ist eigentlich das, was in Automatisierung schlechthin passiert.
Wir kamen ein Programmierer, hatten Sie mal kurz,
genau, wir haben einen Programmiererteam,
die machen einen Algorithmus
Aber sie ist im Algorithmus, ist erst mal nichts zu machen.
Das ist nur eine Skelitt. Dieses Eskelitt wird befühlt mit Muskeln
und mit Haut und Knochen und Haaren und diese Hautknochen und Haaren
sind die Daten. Sprich, diese Algorithmen funktionieren nur,
wenn man sie im Kontext mit einer großen Datenbank betrachtet und guckt,
was passiert in die Sinteraktion. Und da nicht nur das,
weil eine Datenbank wird nicht sofort durch den Algorithmus gespült.
Das wäre zu kompliziert. Man hätte zu viele Wahrscheinlichkeiten,
die Korrelationen, die komisch sind. Warum? Weil,
wie bereits Event, wenn man Induktiv arbeitet, hat man viele Muster,
die da entstehen und manche Müster sind miteinander verbunden,
sind eine Korrelation und es gibt einen Grund für die Zirkorrelation,
aber dann, wenn man Statistik macht,
ich weiß nicht, vielleicht gibt es Mediziner bei Ihnen,
also ich habe vielleicht eine Mediziner zu Hause,
da gibt es das deutsche Ärzte-Tageblatt.
Das ist das Ärzteblatt von allen praktizierenden Ärzten, sogenannte Universität als auch in Praxen.
Und da gibt es immer die Korrelation des Monats.
Und das war mein Lieblingsstyle in meiner WG.
Mein Mitbewohner war Arzt und Gegen Ende stand immer diese Korrelation
des Mars und es war immer eine Korrelation,
die gar nichts miteinander zu tun hatte, aber die sich ergibt.
Beispielsweise die Korrelation der Verhältnisse des Studierende in Hamburg. Kurz vor Klausur,
vor den Klausurdaten, verglichen mit dem Paarungsverhalten der Storche in Japan.
Diese Art von Korrelationen, die stehen immer wieder,
insbesondere wenn man sich vor Augen führt, dass heutzutage wir mit sehr unstrukturierten,
heterogenen Datenbanken kantieren, indem alle mögliche Daten drin sind.
Das heißt, sie wollen, wenn sie einen Algorithmus nutzen,
nicht die gesamte Datenbank nutzen, weil würde das passieren,
die Unmengen an Korrelationen, die sie weglöschen mussten,
weil sie sinnlos sind, die wir schier, unglaublich,
dass wir viel Arbeit machen.
Das heißt, wenn es hier ein Algorithmus, sich anschauen und gucken,
was passiert da, müssen sie sich den Algorithmus anschauen,
sie müssen sich die Datenbank anschauen und sie müssen sich die Datenauswahl anschauen,
die Auswahl der Daten, die sie nehmen,
damit die Algorithmus funktioniert.
Und in diesem Lob, was hier passiert, ist,
dass wir natürlich, wie wir sehen, auf einmal eine Verantwortungsverschiebung haben.
Natürlich trägt in diesem Verfahren der Automatisierung der Entwickler des Algorithmus
eine Verantwortung. Aber die Daten wissen scharf lang,
die Datenbank kreiert und dann die Daten auswählt.
Das ist eine ganz andere Person. Das ist normalerweise
die Person in dem Unternehmen, der diesen Algorithmus verwendet.
Oder in der Behörde, in der diesen Algorithmus verwendet,
die Unternehmen, die Algorithmen verkaufen, sind nicht unbedingt,
oder kam nicht unbedingt Einsicht über diese Datenbanken.
Das heißt, er vermale ist eine zusätzliche Person,
die eine Verantwortung trägt
Und natürlich, wenn man sich die Frage der Daten nochmal
genauer stellt und versucht zu fragen, was ist das konkret?
Was sind das diese Daten? Naja, wenn man das Beispiel der Chartbots nimmt,
dann muss man sich an der eigenen Nase fassen.
Das sind wir. Chartbots sind Sprachroboter,
sie lernen von der Sprache, auf den sie ausgesetzt werden.
Und die Datenbank, die Sprachdatenbank aus der Sicht Chartbots bedienen,
sind sozusagen Datenbanken, die von Menschen kreiert worden sind,
die einfach Sprachgewohnheit von Menschen darstellen.
Und es gibt ein relativ bekanntes Beispiel von einem Chartboard, Gone Wrong.
Das war Thai von Microsoft. Letztes Jahr hat Microsoft
ein kleines Sprachroboter kreiert und er hat es online gelassen.
Und nach ganz weniger Stunden hat diese Chartboard ungeheuerlichkeiten gesagt.
Und ich bin Spanierin bei uns, sagt man,
viele Ungeheuerlichkeiten, so ein Fernseher. Und in der Vorlesung,
das ist ganz normal, Stimmford da zu verwenden,
wie kann ein reiches Wortschatz an Schimpfwörter,
aber sogar ich bin Rod geworden,
das war ziemlich schlimm
Diesen Chartboard musste sozusagen ausgeschaltet werden. Und was war das Problem da?
Wenn man sich anguckt, was das Problem da war,
war, dass die Community der Tweeterer eigentlich testen wollten,
wie weit kann ich gehen?
Und sie kamen diesen Chartboard sexistische, rassistische und alle weitere Ismen beigebracht.
Und dieses Chartboard hat einfach nur die Sprache reflektiert,
der erst ausgesetzt würde.
Das heißt, um nochmal zu dieser Tavelle,
die Sie jetzt sehen,
Formal in ein Automatisierungsprozess. Die Anzahl der Leute,
die in dieser Handlung des Sprechens und des Kommunizierens
eine Rolle spielen, die ist größer geworden.
Wir kamen die übliche Kommunikationsstruktur, Sender, Nachricht,
Kommunikationsweg und Empfänger einfach komplett verändert dadurch.
Wir kamen da einiges an der Struktur verändert und es sind
tatsächlich bei einer einzelnen Handlung ein paar weitere Aktoren,
die Mithandelnde sind und natürlich auch mit Verantwortungstragende sind
Ähnlich ergeht es beim sogenannten autonomem Fahren. Normalerweise,
ein Fahrer, das war der Mann oder eine Frau,
die sich vor dem Steuergesetz hat und gefahren ist.
Jetzt mit der Frage der, sogenannten Autonomous Course und autonomen Fahren,
muss man sich fragen, wie fährt der eigentlich, der Softwareentwickler?
Der Hardwareen-Clip-Wickler, also sprich Volvo oder VW,
die Personenkita der Steuer, was passiert da?
Auch da sehen wir, das ist eine Frage sozusagen der Handlung,
wie er zusätzliche Akteure haben, für Handlungen,
in denen konventionell immer nur ein einzelner Akteur dahinter stand
Gut. Wenn man das berücksichtigt,
dann würde ich behaupten, ja, es ist Kommunikation.
Es ist halt Kommunikation über Umwegen. Es ist Kommunikation über Dreiecken.
Man kommuniziert etwas dem Chartbond als Entwickler, als Unternehmen.
Und diese Touchboard bekommen Feedback von dem Nutzer,
von der Umgebung, auf dem es ausgesetzt wird.
Und das macht etwas mit dem Chartboard. Der Chartboard ändert sich dabei,
wie beim Beispiel von Tai. Und das führt dazu natürlich,
dass der Entwickler da die Personen,
die diesen Chatbot anwendet, aus welchem Gründen auch immer,
dann auch noch mal da Veränderungen vorningen,
also im Fall von Thai, das hat natürlich bedeutet,
dass Microsoft und der Entwickler-Tim entsprechend da einige Filter eingesetzt hat.
Gut, also wenn man damit geht und sagen, ja,
das ist Kommunikation und dann die Frage der Regulierung stellt,
dann müssen wir uns tatsächlich noch mal die Freude Amplifizierung der Stimme,
die Frage der Kommunikation der Regulierung
heute in unserer Welt stellen
Normalerweise haben wir in Fragen der Kommunikation, in unserer Demokratie,
alles ganz schon, wenn man abstrakt bedenkt,
nur die Frage des Kommunizierens kann schon durchreguliert und auch ganz schön durchgewacht.
In Deutschland haben wir für die Benutzung von Mitteln,
die unsere Stimme amplifizieren, Regulierung wie Lammbelästigung.
Das kam aus der kleines Trivia, aus der Radio,
aus dem Radio, Anfang des 90. Jahrhunderts,
haben man immer so Kopfhörer verwendet und plötzlich gab es Lautsprecher und da haben sich viele Leute beschwert,
dass sie nicht von Nachbarn zugeschaltet werden wollten.
Und da hat man tatsächlich in Deutschland auch entsprechende Gesetzesregulierung erlassen.
Und natürlich zu Zeiten der Autokratien hat man durch Hausdas gut geheißen,
dass man mit offenen Fenstern das Radio volle Kanne laufen lassen kann.
Aber ansonsten war das, das ist eine Form von Lammbelästigung Gesell.
Und da hat es angefangen. Wie kamen aber natürlich auch weitere Gesetze Scorpora,
die tatsächlich eine Rolle spielen, wenn es darum geht,
eigene Stimme in der Öffentlichkeit zu setzen.
Wir haben ein Presserecht, wir haben Persönlichkeitsrecht, Telemediengesetz,
Telekommunikationsgesetz am Telemediengesetz insbesondere im Bereich des Digitalen. Wir kamen Datenschutzrecht,
wenn wir natürlich betrachten, dass Daten in der, ja,
in der unteren Fläche von jeglicher Art von digitaler Kommunikation unterliegt.
Und natürlich haben wir das Versammlungsgesetz. Ich habe Ihnen
vor jeden Beispiele geführt, indem ich versucht habe,
Beispiele der Amplifizierung von Stimme analog, analoge Natur zu lassen.
Und ich habe mich bewusst, und ich habe das bewusst gemacht,
um in diese Gesetze vorführen zu können.
Denn sie haben all diese Gesetze, haben eine Rückwirkung auf all diese Beispiele.
Wenn ich meine Demonstration, einen Lautsprecher verwende,
das kann ich machen, das ist nicht verboten.
Sofern die Versammlung an sich erlaubt ist. Punktalarmbelästigung wird es
natürlich Einschränkungen geben. Und dasselbe gilt für viele anderen,
für viele andere Ohrspiele
Ihr Versammlungsrecht, wie Sie sehen, also überhalts erwähnt,
die Versammlung wird zugelassen,
immer unter bestimmte Angaben in den presserechtlichen Bereich,
gibt es ein Presseprivileg, es gibt bestimmte Sorgsfreiheitspflichten allerdings.
Es gibt sozusagen eine richterliche Instanz, die auch diesen Recht weiter fortbildet.
Und es gibt eine Haftung als Verbreiter von Nachrichten.
Aber im Prinzip ist das, was Sie veröffentlichen,
nur niemals Examte,
sondern nur Expost
zu sanktionieren
Die Reichweite von dem, was sie veröffentlichen,
wie öffentlich das sein darf,
oder wie breit in der Gesellschaft sich verbreiten darf,
wenn die Inhalt an sich legitim und gesetzlich gesetzeskonform ist,
das ist nicht reguliert.
Im Bereich ist bisher nicht ganz recht, haben wir auch Einschränkungen des Öffentlichen.
Und von dem, was man reden darf,
bei Schim kam sie auch von ihr Wachurteil in die letzte Vorlesung gehört.
Das ist eines der wichtigsten Urteile, wenn es darum geht,
Frog richte ich der Instanz vom Verfassungsgericht getroffen.
Wenn es darum geht, zu verstehen, was im Öffentlichen erlaubt ist und nicht erlaubt ist.
Und was relevant in diesem Urteil ist,
ist eigentlich der letzte Paragraf, in dem es klargemacht wird,
dass diese Urteils sich nicht nur auf analoge Situationen,
Beziehungen, auch auf weitere moderne Entwicklungen.
Ich lasse kurz vor, im Sinne des Orbesten Konstitutionsprinzip,
der Würde des Menschen,
die engere persönliche Lebensphäre und die Haltung ihrer Grundbedingungen zu gewährleisten,
die sich durch die traditionellen Konkreten Speicherheitsgarantien nicht abschließend erfassen lassen.
Diese Notwendigkeit besteht namentlich auch im Blick auf moderne Entwicklungen und
die mit innen verbundenen neun Gefährdungen für den Schutz der menschlicher Persönlichkeit.
Kurzum das, was offline gilt, hat auch online zu gelten.
Und das Medium ist dabei nicht relevant. Im Äußerungsrecht
haben wir natürlich auch in Deutschland ein Strafrennchen und auch so ein
zivilrechtlichen Katalog von all dem, was im Öffentlichen nicht gesagt werden kann.
Ich habe Ihnen hier eine Liste, zwecks Vollständigkeit,
das ist ein kleiner Ausdruck von all dem, was verboten ist.
Es ist irrelevant, ob das ein gesprochenes oder geschriebenes Wort ist,
offline und online. Es ist relevant, ob das stattdessen
Bilder oder Gästen oder symbolischer Handlungen sind oder Videos.
Und allein die Veröffentlichung kann relevant sein. Aber auch da,
die Reichweite der Aussage an sich ist nicht reguliert,
darüber denkt man nicht nach
Gut. Warum kann man darüber nicht nachgedacht? Ja.
Weil Demokratien einfach sich in dem Bereich nicht proaktiv positionieren.
Wenn man sich die Frage der Bedarf von Regulierung stellt,
dann muss man erst mal unterscheiden zwischen ethischer Regulierung,
natürlich um gesetzliche Regulierung.
Eine Demokratie ist die, wie kann es sagte,
ist die Herrschaftsform,
die in Zweifel für eine Republik von Teufeln
funktionieren kann
Funktioniert, weil man nicht im moralischen Bürger verlangt. Das heißt,
das, was wir gesetzlich verankern, ist nicht das,
was wir ethisch verankern als Quelle des Edition.
Eine Demokratie verlangt nicht den moralischen Bürger, das verlangen nur Autokratien.
Es ist irrelevant, aus welchem Grund ein Mensch etwas macht.
Es ist nur relevant, ob das,
was ein Mensch macht, Folgen kann, den wir sind,
den Schaden konstituieren.
Aber die Gedanken sind frei
In der Hinsicht, wenn wir über Ethik reden,
haben wir einen ganz anderen Blick auf die Dinge in eine Demokratie.
Das ethische wird teilweise in gesetzlicher verankert, aber nicht mit
einem moralistischen Blick, sondern mit einem strukturierenden Blick.
Die Gesellschaft aber bleibt als die Quelle des Ethischen und als
die Quelle eines permanenten Dialogs und einer permanenten, ethischen Auseinandersetzung.
Und da gelten andere normative Vorstellungen. Und jedoch,
sowohl im Ethik als auch im Recht,
wenn man über neue Regulierungen nachdenkt,
muss man sich die Frau der Verantwortung stellen und zwar strukturiert stellen
Wenn wir aber neue Verantwortung reden,
wenn wir auch über neue Regulierungsbedarf reden,
gibt es neue Handlungsträger in dem Bereich von Wats?
Gibt es tatsächlich eine neue Entität, die handelt?
Ich würde sagen, nein. Die Wats sind voll menschengesteuert,
sind von Menschen gemacht und selber handeln sie nicht.
Denn Handeln bedeutet Absicht zu haben und Hand und Botsgramm
kann er absichten. Sie tragen nur die Absichten deren Programmierer
und den Unternehmen oder in Situationen,
die sie anwenden
Das sind sie rational? Nein, sie sind nicht rational,
aber die Frage der Verantwortung verlangt genau das, Rationalität, Einsichtsvermögen und freie Wille, Absichten.
Nicht umsonst in unseren Strafrechtssystem werden diese zwei Fragen relevant,
also war die Person zurechnungsfähig,
konnte sie verstehen, was es gemacht hat,
um was sie oder er gemacht hat,
um eine Sanktion aufzuhängen und hatte diese Person ein gewisser Handlungsparameter oder war es notwehr,
diese zwei verschiedene Säulen spielen eine große Rolle in unser Strafrechtssystem,
weil wir damit einfach die Verantwortung fest verankern.
Das machen wir auch im irdischen. Und wenn wir
über Words reden, können wir das nicht bejahen.
Wir können nicht sagen, dass es ein Handlungsparameter gibt,
in dem sie ihr freie Wille aufs Üben.
Nein, und wir können auch nicht sagen, dass sie eine Volition haben.
Gibt es neue Handlungsarten? Hm, schwierig. Ich würde
sagen, nein, wir kamen analoge Beispiele gesehen.
Wir sehen, das ist eine neue Form,
sozusagen der elektronische Ausführung von genau desselben Konzeptes.
Die eigene Stimme zu implifizieren, den Eindruck zu erwecken,
eine Mehrheit zu sein
Gibt es neue Folgen? Das sind wir ja noch ermessen.
Es gibt in der Tat keine Studie, sehr nachweisen konnte,
dass tatsächlich Bots oder Social Media einen relevanten Impact gehabt hat,
sowohl in dem Wahlen in den USA als auch im Brexit
oder auch in unserem Projekt könnten wir das auch nicht feststellen während der Bundestagswahl.
Und wir sind die Betroffene überhaupt? Sind das neue Betroffene
? Ich würde sagen, nein. Betroffene,
wir reden hier über wir Gesellschaft. Es gibt keine neue
Form von Betroffenheit
Und dann stellt sich natürlich die Frage, neue Konstrolle instanzen notwendig.
Da könnte man vielleicht ein bisschen einsetzen, wie sehen,
dass die Frage der Handlung und die Frage der Akteure,
in denen diese Handlungen involviert sind, ein bisschen anders geworden ist.
Wir sind, das ist Programmierer gibt, wie sind,
dass es Unternehmer gibt, Buttonwissenschaftler,
dass die Gesellschaft auch da in dieser Automatisierungsverfahren an der Rolle spielt.
Und natürlich, das sind alle sehr verschiedene Kategorien von Akteure.
Manche fallen im öffentlich-rechtlichen Bereich, manche anderen fallen im zivilrechtlichen Bereich,
manchmal ist in Unternehmen mit großem Markt, manche sind Bürger.
Das sollten wir in der Tat vielleicht ein bisschen mehr gucken
Und dann ist die Frage, anhand welche Maßstäbchen, welche neue Werte,
Normen und Kriterien können wir dann tatsächlich in eine neue Regulierung verlangen.
Und bei westen Willen wusste ich nicht,
welche neue Werte auf Meinungsfreiheit, außer Recht der Persönlichkeit und der Würde,
außer Recht auf Intimsphäre, auf Privatsphäre, aus der Pressefreiheit,
aus auf Sammlungsfreiheit.
Ich wusste nicht, welche neue Werte notwendig wären,
um die Frage der Bots
einfach zu diskutieren
Zu dämmen, wenn man einfach die üblichen Kriterien in der Ethik,
aber auch im Rechtsbetracht der Technik, Neutralität.
Gesetze und ethische Regeln, die sich an Technik orientieren,
haben und bergen mit sich ein Problem.
Wir kamen in Deutschland Gesetze zu Pferdehandeln. Wir kamen in
Deutschland Gesetze zu Reiten im Wald. Wir kamen in Deutschland
Gesetze zu Techniken, die heutzutage keine Rolle mehr spielen.
Und sie sehen es ja, es ist eines der Kritiken,
der neue Datenschutzverordnung. Wie kam denn neue Datenschutzverordnung auf europäische Unionsebene
entwickelt, das ab Mai 2018 in Graf treten wird.
Und diese Verordnungen kennen nicht Big Data, es kennt nicht
die Cloud und bringt viele weiteres und sozusagen technische Probleme,
die nicht berücksichtigt würden in der Regulierung.
Deswegen ist die politische Forderung auch eine Ethik möglichst schlank und abstrakt
damit umzugehen und sich nicht auf die Technik an sich,
sondern auf das menschliche Wert dahinter zu fokussieren.
Was ist der Rechtsschutzgurt? Was ist der edgische Schutzgurt?
Wir eigentlich bewahren wollen, wenn wir diese Situation betrachten.
Natürlich gelten auch der allgemeine Gleichkeitssatz Sprich, das, was online gilt,
sollte es auch offline geben, sollte es am Telefon,
im Flugzeug, im Zug, sollte es überall gelten.
Und natürlich, der Verbot des Einzelfallgesetzes,
also sprich auch dem Verbot, eine Anzelregelung für eine einzelne Person,
als eine Regel, der nur für eine Person gilt,
kann keine gerechte Regel sein, beleidig, noch gesetzlich.
Nun gut, was ist denn dann also das Problem?
Ich weiß es ehrlich gesagt, meine Damen und Herren nicht.
Wie kamen die Frage der Unwahrheiten der Lüge,
der Boshaftigkeit der Ecokammern, der Manipulation und Fremdbestimmung,
der Anonymität,
all diese Fragen diskutieren wir seit Jahrtausenden
Unabhängig der Technologie, die wir dabei verwenden. Und meines Erachtens,
wenn es um die Fahrt der World's geht,
die Antwort ist nein, wir brauchen keine neue Regulierung,
vedaltisch, noch gesetzlich.
Wir können aber vielleicht ein bisschen mehr über verschiedene Formen der Aufsicht reden.
Wenn denn tatsächlich die bereits vorhandene Gesetzende bereits vorhandene ethischen Maßstäben
nochmal durchgesetzt werden können. Ich hoffe,
ich habe sie alle provozieren,
ich hoffe,
dass wir jetzt diskutieren können