Musik, Technologie, Zukunft.
Ein Podcast mit René Türschmann und Janis Brucker.
In Kooperation mit der Hamburg Open Online University
und der Hochschule für Musik und Theater Hamburg.
Herzlich willkommen zu unserem Podcast Musik, Technologie und Zukunft
im Auftrag der Hamburg Open Online University
in Zusammenarbeit mit der Hochschule für Musik und Theater Hamburg
von Janis Brucker und René Türschmann.
Heute in der letzten Folge unserer Podcaststaffel
wollen wir noch einmal zusammenfassen und weiterdenken,
was wir in den letzten Folgen erfahren haben.
Wir haben mit Musikern, Philosophen
und auch Maschine-Learning-Forschern gesprochen
und haben festgestellt, dass viele der Themen, die wir besprochen haben
in jedem Bereich immer wieder leicht anders hervorkamen
und doch sich eine Art Kondensat gebildet hat.
Und genau dieses Kondensat, wollen wir uns heute anschauen
und wollen es noch einmal infrage stellen.
Ja, und zwar war im Grunde die alles begleitende Frage
immer: Wird der Mensch eines Tages durch Technologie ersetzt?
Wir haben natürlich in dem Gespräch mit Berufsmusikern feststellen können,
wie auch aus unserer eigenen Erfahrung,
dass selbstverständlich die Ansprüche und Herausforderungen an Musikschaffende
sich drastisch verändert haben im Laufe der technologischen Entwicklung;
und haben auch erfahren, dass Machine-Learning-basierte
Algorithmen inzwischen sehr weit fortgeschritten sind, sehr viel können
und wahrscheinlich alles im Bereich der Gebrauchsmusik
über kurz oder lang so gut werden wird, was die Technik bereitstellen kann,
dass möglicherweise sogar Menschen diese nicht mehr machen werden.
Aber wir haben auch gelernt, dass wir noch weit davon entfernt
sind, komplett ersetzt zu werden von Maschine-Learning-Algorithmen, gerade
wenn es im Bereich der Komposition geht,
da eine künstliche Intelligenz sich nicht selbst kuratieren kann.
Das heißt, sie kann Neues und Innovatives bisher
nur irgendwie durch Variation und Zufall erschaffen.
Aber die Zusammenhänge, die da reinspielen für gesellschaftliche,
für musikalische Veränderung, für neue Stile,
was die gesamten gesellschaftlichen Strömungen und politischen
und geschichtlichen und sonstigen sozialen Ereignisse angeht,
das ist einfach noch viel zu komplex, als dass die Technologie das alles
erfassen kann.
Nun sagt
ja der Philosoph Hannes Worthmann: Na ja, aber das ist eventuell
nur eine Frage der Zeit;
denn wenn die Technologie eines Tages in der Lage ist, auch alle
oder noch viel mehr Daten erfassen kann, alle relevanten Daten erfassen kann,
dann gibt es möglicherweise keine guten Gründe,
die Unersetzbarkeit des Menschen hier noch irgendwie zu rechtfertigen.
Und genau da, wollen wir uns jetzt noch einmal die Frage stellen,
ob es nicht irgendetwas gibt, was uns Menschen zu Menschen macht
und letztendlich eben doch nicht durch Technik ersetzbar ist.
Genau.
Man kann ja nun argumentieren, dass Menschen anders als Algorithmen
entscheidungsfähige Wesen sind, die denken können.
Und nach so wie heute
Algorithmen funktionieren,
ist es ja so, dass alles, was bei Computern nach Denkleistung aussieht,
eigentlich nur eine Simulation einer Denkleistung ist.
Denn auch selbstlernende Algorithmen funktionieren nach festen Regeln.
Gleichzeitig
gibt es diesen Traum der Singularität.
Die Singularität ist
die Idee, dass sich irgendwann ein Algorithmus
erschaffen wird,
der sich in einen Kreislauf der Selbstoptimierung begeben kann
und sich daraus sozusagen
eine Superintelligenz entwickelt, die sich immer selbst weiterentwickelt
unabhängig von irgendwelchen menschlichen Einflüssen
und die auch ihre Regeln selbst schreiben kann.
Das ist ja sozusagen
die Idee von neuronalen Netzen, ne, dass das eine neuronale Netz
für die Bewertungskriterien da ist oder für überhaupt irgendwelche Kriterien,
Beantwortung, ob das andere Netz die so erfüllt hat.
Und so gibt es sozusagen ein im Zusammenhang stehendes
Künstliche-Intelligenz-Modell, was genau in diesem Bereich eben vorankommen soll.
Genau. Und was aber vollkommen
alleine dann loslegt und dann auch die menschliche Intelligenz weit übersteigt.
Und in diesem Bereich gibt es Forschungen
und auch viele Science-Fiction-Filme natürlich.
Und manche hoffen, auch, dass dann das in so einer transhumanistischen
Version
uns dann zugutekommt, indem wir uns dann irgendwelche technischen Geräte
implementieren lassen und daraus und wir dann uns selbst verbessern können
oder sogar uns dann hochladen können in eine Cloud.
Doch unter all diesen Vorstellungen, dass quasi
wir die Welt beschreiben können, ausreichend beschreiben können mit Daten,
steckt eine bestimmte Ideologie.
Und das ist ein bisschen die Ideologie des Solutionismus.
Der geht davon aus, dass Probleme eigentlich
nur eine technische Herausforderung sind
und von Algorithmen gelöst werden können, wenn genug Daten vorhanden sind.
Das heißt,
beliebig komplexe Situationen, seien es soziale Probleme, Musik oder was auch
immer, können mittels klar definierter Problemstellung
und definierter Lösungen dann beherrscht werden.
Und genau das ist ja etwas,
was immer mitschwingt, wenn wir über
Menschen reden und dem Menschen als Maschine.
Also in den letzten Jahren oder Jahrzehnten hat ja die Hirnforschung
immer mehr Fortschritte gemacht und hat immer mal wieder infrage gestellt,
ob wir nicht eigentlich nur ein Haufen chemischer Prozesse sind.
Und ob...
und hat dann festgestellt: Okay, wir können eine neuronale Korrelation
beobachten.
Und lassen sich nicht mehr alle menschlichen Entscheidungen
mit Hirnaktivitäten identifizieren?
Und diese mechanistische...
dieses mechanistische Weltbild, das scheint etwas zu sein,
was ja uns Musikern grundsätzlich zugegenläuft.
Oder, Janis? Ja, genau.
Und das ist, glaube ich, auch irgendwie
nicht nur ein mechanistisches, sondern eben auch ein materialistisches Weltbild,
dass sozusagen alle
Daten oder alle Erlebnisse letzten Endes eben auch rein
durch physikalische Ereignisse oder durch
physikalische Teilchen, wenn man so will, messbar sind.
Und da spielt ja eigentlich ein sehr berühmtes oder bekanntes
Argument ein, was sich auch das Qualia-Argument nennt,
was eben sagt: Na,
vielleicht gibt es Vorgänge, die wir gerade im Erleben
eben nicht so erklären können.
Also das berühmte Gedankenexperiment dafür ist immer, dass Mary
in einem Raum ist, in dem sie nur schwarz weiß sehen kann.
In diesem Raum sie geboren, das heißt; ihr ganzes Leben lang
hat sie keine Farben sehen können, sie hat nur einen kleinen Bildschirm
vor sich, glaube ich, der halt schwarz-weiß
wiedergibt und sie ist aber Farbforscherin.
Sie ist also
die beste Chemikerin, die man sich denken kann
und Physikerin und alle naturwissenschaftlichen Disziplinen
beherrscht sie sehr gut
und weiß sozusagen alles, was man nur über Farben wissen kann.
Das heißt, sie kann alles errechnen
und sie hat alle Daten, die die Physik und die Chemie hergibt über diese Farben.
Und trotzdem würden wir doch sagen:
In dem Moment, wo sie den Raum verlässt und zum ersten Mal in ihrem Leben
Rot sieht,
hat sie trotzdem Erkenntnis, einen Erkenntnisgewinn gehabt,
hat sie eine neue Erfahrung gemacht und hat etwas über die Farbe Rot erfahren,
was sie vorher nicht kannte oder nicht
wusste, weil sie es eben noch nicht erlebt hat.
Genau.
Und dieses Erleben ist sozusagen genau das, was wir aus heutiger Sicht
Maschinen absprechen würden.
Das heißt, das Erleben von
Körperlichkeit in dem Sinne.
Denn Mary geht raus und natürlich kann sie vorher
genau wissen, welche Wellenlänge hat rotes Licht, wenn es auf die Retina trifft
und so weiter, das wird sie alles irgendwie...
kann sie rein analytisch durchdenken, aber sie wird nie wissen,
wie sich das anfühlt, Rot zu sehen.
Und diese Körperlichkeit ist etwas, was sozusagen einem Computer abgeht.
Genau.
Und das ist, glaube ich, also zumindest ein Punkt, wo wir wahrscheinlich
als Musiker sagen würden: Ja, stimmt, ich kann auch vielleicht
jeglichen Notentext und die beste Analyse
gemacht haben und der beste in meinem Fach sein
und alles über die Musik wissen, aber das tatsächliche Erleben davon,
wie es sich anhört, wie es sich anfühlt, das ist etwas was Unersetzliches.
Genau.
Und ich glaube nämlich, dass Computer in dem Augenblick,
weil sie eben nicht-denkende und nicht-fühlende Einheiten sind;
stehen sie jenseits von Moral und Ästhetik.
Sie sind.
Sie können nicht ästhetische Entscheidungen fällen.
Und sie unterliegen auch denen nicht.
Sie führen halt Regeln aus.
Und das ist der...
den Unterschied, den wir hier machen wollen, wo wir
als Musiker, als Musikschaffende sagen wollen: Irgendwie ist da doch mehr.
Und ob jetzt das langfristig von
einem Algorithmus
auch simuliert werden kann, das wird sich dann zeigen.
Also vielleicht in ein paar 100 Jahren oder wann auch immer.
Vielleicht wird es das dann doch geben, entgegen unserer Prognose.
Und dann gibt es eben fühlende, denkende
Roboter.
Aber aus der heutigen Sicht würde ich sagen: Nein, nein, also dieses Erleben,
das ist eben der Unterschied.
Na ja,
und die Frage ist, die wir doch eigentlich eben auch
aufgemacht haben: Ist dieses Mehr in irgendeiner Form quantifizierbar
und messbar?
Also ist das wirklich eine bloße weitere physikalische Größe,
die vielleicht in so einer kleinen Quanteneinheit
abläuft, die wir noch gar nicht kennen?
Dann würden natürlich alle
Machine-Learning-Forscher sagen: Ja gut, das ist wahrscheinlich eine Frage
der Zeit, bis Maschinen auch das noch errechnen können und wahrscheinlich sogar
viel besser als wir Menschen, weil die Kapazitäten unendlich sind.
Aber wenn wir eben sagen: Na ja, es...
also zumindest nach dem derzeitigen Verständnis von Naturwissenschaften,
kannst du alle chemischen, alle physikalischen Vorgänge,
Elemente, Daten und Datenansammlung haben
und trotzdem fehlt eben noch etwas, um wie in dem Fall von Mary
herauszufinden, was es eben wirklich bedeutet, Rot zu sehen zum ersten Mal.
Genau.
Und in Bezug auf Musik hast du ja vorhin auch gesagt, dass
Peter es so schön klar machte, dass ein heutiger
Machine-Learning-Algorithmus eigentlich nur noch
natürlich viele Sachen liefern kann.
Aber im Endeffekt kann er das Kuratieren nicht übernehmen.
Das heißt, zu entscheiden, was von diesen vielen Outputs,
die dieser Machine-Learning-Algorithmus liefert: Was ist davon das Schöne
und was ist davon das, was wir nehmen wollen?
Und die Beispiele, die wir hatten mit der 10.
Symphonie Beethovens,
die ja genau so geschrieben wurde, da hat ein Algorithmus halt irgendwas
rausgespuckt und dann gab es halt Musiker, die haben dann ganz genau
entschieden, ist das jetzt besser oder nicht so gut und so weiter.
Und sozusagen diese Fähigkeit von Algorithmen, einfach
sehr viel zu produzieren, da ist ein anderer Punkt, der auch noch,
der mir die ganze Zeit auf der Seele brannte und den wir ganz kurz
in der Kommodifizierung von Musik in der ersten Folge ansprachen
oder den Marcio ansprach.
Ist dieses
Problem, dass ja Algorithmen
den gesellschaftlichen Status quo eigentlich reproduzieren,
weil sie auf auf Basis der Daten, die die Vergangenheit hatte,
irgendwelche Dinge hervorbringen?
Und das ist ja genau der Kritikpunkt,
bei dem Adorno ansetzt mit seiner Kulturindustrie-Kritik,
wo er nämlich sagt: Okay, wir haben eigentlich gerade haben wir...
das Problem, dass...
alle Produkte, die von der Kulturindustrie
hervorgebracht, von der Kulturindustrie hervorgebracht werden,
das sind alles Waren, die konsumiert werden sollen.
Diese Produkte sind eigentlich nur dafür
da, um den gesellschaftlichen Status quo zu reproduzieren.
Und diese Produkte, die meist auch noch Massenprodukte
sind, erzeugen überhaupt keine Kritik an den bestehenden Verhältnissen.
Ihre Produktion ist technisch
standardisiert und soll möglichst wenig kosten.
Und die Vermarktung folgt der Marktlogik, das heißt Maximierung des Gewinns. Und
all diese Punkte sind bei Machine-Learning natürlich genau getroffen. Denn
die KI ist ein Werkzeug, das
Bestehendes reproduzieren kann und nicht infrage stellt.
KI ist eine Möglichkeit, möglichst günstig Musik zu produzieren,
noch viel günstiger als das heute geht, wird man Filmmusik produzieren können...
Klar, ohne Menschen, ja.
Produktion ist immer mehr technisch standardisiert
und es sind natürlich Massenprodukte, die keine Kritik an
den bestehenden Verhältnissen führt, weil eben: Die bestehende Verhältnisse
sind ja eingebaut oder eingebrannt in die DNA dieser KI.
So, und
jetzt ist der Punkt, den Adorno da macht,
der ist ein schöner.
Der zeigt nämlich, dass auch KI in dem Falle dann auch in
Bezug auf Musik eine durchaus politisch-soziale Brisanz hat.
Nämlich
eigentlich, so Adorno, sollte die Infragestellung des Status quo
das Ziel sein.
Also dass normative Ansage - und da würde ich voll folgen.
Doch das Ergebnis der Produkte ist aber doch, dass
unser
sogenanntes affirmatives Bewusstsein verfestigt wird.
Und das affirmative Bewusstsein ist für ihn das,
was immer wieder bestätigt, wie es ist.
Also dass bestehende Verhältnisse nicht hinterfragt werden.
Und dadurch wird natürlich die Kulturindustrie
von den Wünschen des Publikums gelenkt.
Also wir wollen Unterhaltung und Entspannung. Und
es gibt uns...
Diese Kulturindustrie gibt uns sozusagen ein Versprechen nach Glück
unter den gegebenen Verhältnissen.
Und das ist ja alles das, was KI abhakt durch seine Tätigkeit.
Und jetzt ist sozusagen
wirklich die Frage: Haben wir damit
mit der KI sozusagen eine Super-Kulturindustrie geschaffen,
die uns am Ende noch mehr von dem Gleichen macht?
Oder ist dann -
und da kommt nämlich der Twist rein, den ich mir vorstellen kann - ist
gerade wieder der Kapitalismus der Weg, der uns da auch wieder herausführen kann?
So witzig ist das klingt, wenn ich das sage, aber dass sozusagen der Kapitalismus
als Zerstörer von auch traditionellen Werten und Hierarchien
immer wieder die Möglichkeit schafft, irgendwas Neues zu denken.
Und so ja auch hier, wenn dann irgendwann das KI alt ist,
dann wird es wieder attraktiv, dass man selber Musik macht
und auf einmal wird dann das nachgefragt.
Genau. Ne?
Also es lässt sich dann wieder monetarisieren. Genau.
Und das wäre auch der Punkt, wo ich sozusagen am Anfang ansetzen würde.
Also mir scheint es ein bisschen zu einfach, wenn man sagt: Na ja,
die KI, die wiederholt halt einfach nur - du hast es am Anfang gesagt
- das, was in der Marktlogik sozusagen drin ist.
Die bestehenden Verhältnisse werden reproduziert
und deswegen hat es am Markt Erfolg.
Das kann man eben so weit auch nicht voraussagen.
Klar kann man das bis zu einem gewissen Grad
und man wählt das natürlich,
wenn man so den sicheren Weg, den weniger innovativen gehen will, um irgendwie
seine
Gewinne aufrechtzuerhalten.
Aber das ist eben auch nicht immer das, was nachgefragt ist, also das, was
lange Zeit Standard war, wenn man das immer noch wiederholt hat.
Ab einem bestimmten Punkt wurde das eben auch abgelöst,
weil die Leute dann eben
doch irgendwie was anderes wollten oder was Neues und sich da etwas verändert hat.
Das heißt also auch, eine KI müsste ja - und da sind wir wieder an demselben Punkt
- mit den gesellschaftlichen Veränderungen mitgehen, um selbst einfach nur dieses
reproduzierende Marktsichere zu erfinden.
Und die andere Unterscheidung, die wir auch machen müssen
und ja auch schon öfter jetzt gemacht
haben, ist ja irgendwie: Über was für einen Bereich von Musik reden wir?
Reden wir jetzt wirklich über Musik mit künstlerischem Anspruch, wo irgendwie
andere Werte dahinter sind als eben bei,
ich sage jetzt, bloßer Gebrauchsmusik,
wo eben ganz
bestimmte Kriterien erfüllt werden müssen, die eben schnell abgehakt werden können,
was dann eben eine
KI natürlich auch leichter ersetzen kann, weil es eben das bloße Reproduzieren ist?
Genau.
Die Frage, die wir uns jetzt natürlich... die wir auch...
oder die wir uns gegenseitig immer wieder gestellt haben
im Rahmen dieses Podcasts: Worauf hoffen wir denn eigentlich?
Also, oder was dürfen wir hoffen?
Ja, das ist natürlich eine gute Frage.
Und ich würde mal sagen, genau an dem Punkt, wo wir gerade ansetzen
oder was du auch versucht hast aufzumachen, so hilft uns nicht am Ende
der Mechanismus da auch wieder raus.
In dem Moment, wo die Maschinen uns überholen
und wesentlich schneller und günstiger Dinge produzieren können, die wir
sowieso nur auch im menschlichen Schaffen immer nur reproduzieren,
sind wir doch viel mehr gefordert, auch an dem Punkt
zu kommen, wo es heißt: Was ist jetzt hier genau künstlerischer Anspruch?
Oder: Was ist jetzt genau Musik, wo das Menschliche unverkennbar ist?
Was zeichnet uns da aus?
Und deswegen finde ich eigentlich
auch die Diskussion oder die Debatte um all diese Themen so besonders,
wenn wir die ganze Zeit feststellen: Na ja, das und das und das kann
durch Technologie ersetzt werden.
Dann bleibt am Ende immer weniger, was uns als Menschen auszeichnet.
Und das ist ja vielleicht auch was Schönes,
dass das eben nicht das bloße Reproduzieren von Klischees ist,
sondern eben irgendwie etwas weiterdenken, etwas weiterentwickeln
und das mit einem gewissen musikalischen, kreativen Geschmack,
auf dem wir vielleicht, wenn wir gezwungen sind, sogar schneller
kommen, als wenn wir noch den Maschinen um Längen voraus werden in diesem Bereich.
Genau. Also da wäre ich ganz bei dir.
Ich würde auch hoffen, dass wir es schaffen,
mit Technologie unsere Fähigkeiten eher zu erweitern als zu beschränken.
Aber was mir auch noch wichtig ist,
deswegen haben wir auch über Adorno gesprochen,
zu schaffen, dass wir uns nicht in freiwillige Leichtgläubigkeit
hingeben, sondern nämlich, dass wir sagen: Okay, so Solutionismus,
wir haben so eine Art delegierte Intelligenz, irgendwo findet das statt und
irgendwer schreibt für uns Musik, irgendwer entscheidet für uns politisch,
denn der kann das am besten,
denn das sind Algorithmen, die wissen alle Daten
und können das dann wohl ganz objektiv machen.
Sondern dass wir eben nicht das kritische Subjekt vergessen, das wir sein können
und dass wir uns genau dadurch durch Technologie ermächtigen
und emanzipieren, Neues zu gestalten und die Technologie für uns nutzen
und nicht einfach aufhören
zu denken, zu musizieren und uns zu freuen.
Also das heißt, du willst sagen,
man darf sozusagen nicht nur
sich darauf ausruhen und freuend sozusagen: Okay,
die Technologie kann hier etwas ersetzen, was wir können.
Sondern immer noch die Frage hinzustellen: Ja, aber kann sie auch so kritisieren,
wie wir es kennen oder so in Frage stellen, wie wir es können?
Genau.
Und kann sie sich emanzipieren von dem Zustand,... Ja.
...in dem er... in dem wir sind.
Damit überhaupt Veränderungen stattfinden kann. Ja.
Ja, vielen Dank Janis.
Das war eine spannende Podcastreihe und wir werden hoffentlich bald weitermachen.
Ja, danke dir ebenso.
Es hat mich auch sehr gefreut, waren sehr spannende Gespräche dabei
und auch gut,
dass wir jetzt noch einmal
die Möglichkeit hatten, das ein bisschen für uns einzuordnen.
Wir hoffen natürlich, es hat euch als Hörer auch gefallen und
würden uns freuen,
wenn wir euch eines Tages vielleicht in einer anderen Podcastreihe auch
begrüßen dürfen.
Tschüss.
Ciao. [Musik]