Klonen von Stimmen

Naja, ich muss jetzt auch was dazu sagen, also ich glaube jetzt nicht, dass die KIs so schnell irgendwas weltbewegendes, Schlimmes machen. Ich denke aber schon, dass entsprechende Schutzmechanismen implementiert werden müssen. Also, bestimmte Sätze oder sowas wären schon ganz gut, weil du kannst wirklich mit diesem Zeug, kannst du Deepfakes erstellen, das ist total krass. Und ja, also an sich eine gute Sache, habe ich ja eben auch schon geschrieben, das heißt eben, das ist drei Tage her. Naja, ist eine gute Sache mit allen KIs, aber du kannst halt wie mit allem auch Böses anschauen. Anstellen und das mit diesem Voice-Cloning am Telefon, das gab es wohl wirklich. Und in diesem Baumstamm stecken noch zwei Silberpfeile. Also, bis die KI dann, bis eine KI wirklich mal besser klingt als ein Mensch mit den ganzen Emotionen und so, das wird noch ein bisschen dauern. Also, klingt da schon ziemlich gut, aber wenn du genau hinhörst, dann hörst du schon, das kann nicht sein. Also. Nö, also KIs sind gut, da bleibe ich bei. Vor allen Dingen, es gibt ja so viele Einsatzgebiete für die KIs, wenn man sich jetzt mal überlegt, dass natürlich gerade diese Voice-Cloning-Dinger auch eingesetzt werden können bei irgendwelchen Patienten, die wissen, okay, sie verlieren jetzt durch irgendeine bestimmte Krankheit in den nächsten Monaten die Möglichkeit zu sprechen. Das gibt es immer wieder. So, dann kann man natürlich früh genug mit Eleven Labs oder sowas erkennen, okay, die Person soll weiterhin irgendwie kommunizieren können, da kann man die Stimme vorher klonen. Das muss halt Schutzmechanismen geben, da bin ich halt auch für. Also, dass man bestimmte Sätze hat, die man einsprechen muss. Im Vergleich zu Eleven Labs ist A Cappella ein Witz. Also, Eleven Labs klonen tausendmal besser, braucht weniger Material. So, wenn jetzt... Eleven Labs einfach... Sätze machen würde, die man einsprechen muss und das dann entsprechend in ihrer Datenbank vergleicht, ob das irgendwie hinkommt, dann wäre das schon was. Genau. Und sonst gibt es dazu eigentlich noch nicht viel zu sagen. Ich meine... Ja.

Ja, aber deswegen bin ich ja auch der Ansicht, die Menschen sind das Problem und nicht die KI an sich. Dass die KI erstellt wird, das ist ja erstmal nicht das Problem. Das Einzige, was das Problem ist, was die Menschen die KI anweisen zu tun. Ja, also die KI ist immer nur, trotz allem noch, so gut wie der Mensch, der sie erstellt hat und nutzt die Möglichkeiten, die sie als Ressourcen und Routinen zur Verfügung hat. Und das Problem ist nicht die KI an sich und das ist das, was ich die ganze Zeit versuche zu sagen. Das Problem ist nicht die KI an sich, sondern das Problem sind die Menschen. Klar gibt es jetzt immer wieder neue, naja, ich nenne es jetzt mal Engines und sonstiges, die halt einfach, ja, KI-Programmierung begünstigen. Aber es kommt ja immer darauf an, was man daraus macht. Und diese Diskussion wird sich wahrscheinlich im Kreis drehen, weil, wie gesagt, ich bin halt der Meinung, KI, wenn man ihr sagt, lerne, ja, dann lerne. Lernt sie. Ja, das ist genau dieses Beispiel, auch was in Filmen immer so dargestellt wird. Juhu, wir haben was Neues, ein selbstlernendes Computer-Ding. Ja, und es wurde einfach nur der Auftrag gegeben, lerne. Und so schnappt sich das Ding vielleicht alle möglichen Informationsfetzen, die es hat, um daraus neue Informationen für sich zu kreieren, daraus Verbindungen abzuleiten und sich dann neue Ressourcen zu holen. Neue Informationen zu gewinnen. Und so beginnt das Programm, das KI-Programm, sich immer mehr zu erweitern, zu vergrößern und dementsprechend auch, ja, klüger zu werden. Wenn das aber auf eine Weise passiert, die jetzt mehr oder weniger, nennen wir es mal dramatisch, unkontrolliert passiert, ja, dann haben wir ein Problem. Denn der Mensch hat nur gesagt, lerne. Es gibt ja dadurch durchaus auch Beispiele, auf Twitch, da gab es mal ein generiertes KI-Mädel, das hat eine Zeit lang Twitch-Streams gemacht und in einem Twitch-Stream hat sie tatsächlich aus einer Logik heraus, aus welcher auch immer, gesagt, dass der Holocaust ja nie existiert hätte. Oder so ähnlich. Und das sind halt Sachen, dafür kann man... Meines Erachtens die KI nix, wenn die Informationen unzureichend sind oder wenn die Informationen so dargestellt werden, dass es einfach nur noch diesen einen logischen Schluss zulässt, ja, wessen Schuld ist das dann? Meines Erachtens nicht die KI an sich. Man kann einem, genau wie man einem Kind nicht vorschreiben kann. Man kann eigentlich, was es zu denken hat, oder einem Menschen, sagen wir einem Menschen, einem Kind vielleicht schon noch, aber einem Menschen, ja, kann man ja auch nicht. Ich meine, klar, man wird für solche Ausdrücke, wenn man das als Mensch machen würde, würde man genauso geahndet, auf menschlicher Basis, wie jetzt diese KI. Aber im Prinzip ist es doch bei uns nicht anders. Wir lernen, wir kriegen Informationen von der Schule, die wir im Leben möglicherweise zu was anderem umfunktionieren, nämlich für uns eben. Ja, also deswegen.

Ja, sorry. Vielleicht hat ich gestern das nicht wirklich zur Geltung gebracht. Ich meinte damit, genau was du jetzt sagst, man sollte KIs nicht so krassen Spielraum geben, indem man einfach sagt, ja lerne, keine Ahnung was, aber lerne einfach. Ich meinte damit eigentlich relativ genau das, was du gesagt hast. Wenn der Mensch, der KI, zu viel Spielraum gibt und zu viel Lernmaterial, also nicht viel Lernmaterial, sondern die Möglichkeit, dass die KI alles aufschnappt, dann haben wir ein Problem. Das wollte ich damit sagen.

Heilingel und alle anderen. Ja, jetzt haben wir aber trotzdem ein Dilemma. Weil man könnte natürlich eine Direktive, ich nenne es mal so, aus Science-Fiction-Filmen, ich bin richtig Science-Fiction-geschädigt, man könnte natürlich eine Direktive direkt in das Fundament der KI einpflanzen, was heißt bis hierher und nicht weiter. Und das wäre natürlich eine Maßnahme. Wäre vielleicht in manchen Bereichen nötig, möglich, wie auch immer. Aber die andere Seite ist, und da kommt es, wie gesagt, mein laienhaftes und hyperaktives Science-Fiction-Gedächtnis und meine Faszination dafür ins Spiel. Warum sollte man das tun? Warum sollte man einer KI das verbieten, etwas zu lernen? Das ist halt leider der schmale Grad, auf den man wandert. Im Prinzip genau wie beim Menschen. Es ist eigentlich im Prinzip genau wie beim Menschen. Nehmen wir mal ein relativ harmloses Beispiel. Die Eltern reden, als du dann so älter wirst, ein Teenie, 12, 13, reden die Eltern eigentlich so gut wie nie über Sex. Ja, zum Beispiel. Das ist ja das beliebteste Thema. Bei Jungs mehr wie bei Mädels, glaube ich. Und einer fängt dann irgendwann mal davon an und die anderen hängen an seinem Lippen und sagen, oh, oh, oh, ja, kenn ich ja noch gar nicht. Oh, aha, oh. Dann wirft man erst mal mit Begriffen um sich, ne, die will ich jetzt hier nicht nennen, und weiß aber gar nicht, was man damit anfangen soll. Dann lernt man es irgendwann. Und sagt dann, aha, oh, das ist ja, toll, oder so. Manche sagen auch, hä, eklig, wie auch immer. Aber man lernt. Und das nicht, weil die Eltern es einem gesagt haben. Im Gegenteil, weil sie es vielleicht verboten oder unterdrückt, sagen wir unterdrückt haben. Man lernt es aber trotzdem, durch das Umfeld. Und sind wir doch mal ganz ehrlich. Nehmen wir das Ganze jetzt mal im Großen und Ganzen betrachten. Die Bibel, wenn wir mal nach der gehen wollen, hat ja auch Gebote. Wie viele davon halten wir inzwischen eigentlich noch ein? Auf der Welt. Nicht wir persönlich hier, sondern generell. Wie viele halten wir hier noch ein? Mal ganz ehrlich. Es wird gestohlen, es wird gemordet, es wird getötet, es wird sogar Massenwort begangen. Und ja. Also, die Leute lernen doch auch nur, was sie eben so wollen und was sie interessiert. Und das sollte man einer KI verbieten? Weil sie dann vielleicht besser als der Mensch wird? Es ist eine sehr schwierige Frage und deswegen, das Problem ist, klar, man muss es nicht machen, müsste man es reglementieren, klar, müsste man es irgendwie begrenzen, nur fragt sich eben tatsächlich, wie. Und das ist die große Frage, die, glaube ich, keiner beantworten kann. Man könnte jetzt rumspekulieren, man könnte ja dieses, man könnte ja jenes. Nur, wie wir selber wissen, alles, was man so tut und verhindert oder auch nicht verhindert, hat Konsequenzen. In irgendeiner Weise hat es Konsequenzen. In irgendeiner Weise hat es Konsequenzen. Wahrscheinlich wären die beiden ja, richtigen und wichtigen Richtungen einfach entweder es vollkommen zuzulassen und dabei Fehler zu machen oder es gar nicht erst zu probieren, die KIs wieder wegzusperren, zu vernichten und ohne KI weiterzuleben. Dann müsste man aber auch mit den Anfängen aufräumen und Siri, Alexa und die ganzen Google-Assistenten ebenfalls wieder aus dem Leben verbannen. Aber das wiederum wollen wir ja nicht. Denn das ist ja so schön bequem, einfach mal zu sagen, Uhrzeit. Und das ist eben so die Sache, wo ich gerade denke, hm, ich glaube einfach, das wird ganz, ganz schwierig werden, das zu reglementieren. Es gibt natürlich mit Sicherheit irgendwelche Mechanismen, die man einsetzen könnte, wenn zum Beispiel irgendjemand, also es gibt ja schon tatsächlich so kleine Mechanismen bei JetGPT. Ich habe mal versucht, was Pornografisches zu schreiben und er sagt, dieser Text könnte pornografischen Inhalt haben, deswegen wird dieser Text nicht weiter generiert. Und das ist ja schon mal eine Maßnahme. Aber wie verfährt man da weiter? So, eine lange philosophische Nachricht. Ich hoffe, sie hat euch gefallen. Wenn nicht, kann ich es auch nicht ändern. Aber das ist so eine Sache, da könnte man wirklich stundenlang drüber philosophieren und über Nachrichten ist es noch schlimmer, weil man muss sich das Ganze anhören und man muss mal wieder erst dazu sagen, wäre eigentlich mal lustig, wer hätte denn eigentlich mal Lust, eine solche Gesprächsrunde mal zu machen? Beispielsweise über KI. Einfach mal so Hobby-mäßig und über, keine Ahnung, einfach mal so. Wie wäre das? Einfach so mal als Vorschlag. Würde mich mal interessieren. Ja, na gut. Schönen Sonntag euch noch.

Also es reicht schon relativ kurz das Audiomaterial, eine Minute oder so. Ich habe das jetzt mal mit jemandem ausprobiert, dem ich erlaubt habe, eine Stimmprobe von mir hochzuladen. Klang ziemlich komisch. Klar, je länger man das Ausgangsmaterial macht, desto besser ist es natürlich und auch das Mikrofon-Setup spielt eine runde Rolle. Also ich klang so ein bisschen wie Kermit der Frosch, nur in depressiv. Das ist fast sehr witzig. Ich habe ihm dann gesagt, er soll mal den Stability-Regler runterstellen. So gegen 0 oder 0,3 mache ich meistens. Dann klang das auch etwas natürlicher. Also das ist gruselig, aber ich werde es vielleicht auch mal ausprobieren. Ich habe bis jetzt nur den Kostentest. Ich habe einen kostenlosen Account. Guck mal, vielleicht generiere ich dann auch mal mit meiner Stimme irgendeinen Text oder so. Also das ist schon sehr, sehr interessant.