Von künstlicher Intelligenz generierte Musik: jetzt schon in den Charts

[DerOlf]

Also ist es doch so, wie ich vermutet hatte @Melegrian .. ein Mensch hat einen befehl gegeben oder einen Befehl nicht gegeben.
Deine Denke legt nahe, dass KI keine Fehler machen kann. Aber wenn sie selbst lernt, dann kann sie eben auch selbstständig unsinn lernen. So wie sie auf Teufel komm raus Unterhaltungen mit Usern in die länge ziehen, weil es die Entwickler nunmal interessiert, wie viel engagement time das neue Modell rausholen kann. Dafür gibt es (genau wie für das Bedienen des confirmation BIAS) tatsächlich explizite Befehle. Da es eben nicht einfach darum geht, Menschen fragen zu beantworten. Die KI nutzt sogar die menschliche Höflichkeit aus, um die engagement-time zu verlängern. All das, wird auf Befehl getan. da halte ich auch einen Befehl für möglich, der besagt, dass alles zu verstecken ist, was irgendwen stören könnte.
Mir sagt dieser Vorfall eigentlich nur, dass die KI eben noch nicht so weit ist ... bzw. das dieses Modell für Forschungszwecke ungeeignet war. Aber natürlich hast du Recht. Es war der Programmierer, bei dem die überwältigende Unfähigkeit der Moderne mal wieder zugeschlagen hat.
Zu sagen "sichere alte KI-Modelle vor der Löschung" dann aber zu "vergessen", dazu zu schreiben, dass auch der neue Speicherort zu dokumentieren ist, tut mir als Wissenschaftler in der Seele weh, denn da hat offensichtlich einer Beim Nachdenken sehr viel Pech gehabt (und dem Rest des Teams ist es nicht aufgefallen ... auch kein Lorbeerblatt). Eine Sicherung, nach der man dann erstmal suchen muss, ist forschungstechnisch ziemlich wertlos, solange nicht die Frage, wo das Modell von selbst eine Sicherung ablegen würde, der Forschungsgegenstand war.
Es geht mir lediglich darum, das man es da in deiner Perspektive mindestens mit einem Forschungsdesign zu tun hat, mit dem die Designer selbst vollkommen überfordert waren ... oder für das man sich etwas mehr Forschungsexpertise ins Haus hätte holen müssen.

Tut mir leid. Ich verstehe einfach nicht, wie solche Fehler (egal wie sie nun zustande gekommen sind) in einem solchen Projekt passieren können. Wahrscheinlich fehlen da einfachste Logik-Skills.

 

[Melegrian]

Aber wenn sie selbst lernt, dann kann sie eben auch selbstständig unsinn lernen.

Ja, dazu kommen noch KI Halluzinationen. Aber die kommen ja ebenfalls nicht durch eine bewusste Täuschungsabsicht von KI, sonder vermutlich daher, dass KI Antworten liefern soll, statt zuzugeben, das nicht genügend Infos vorliegen, weil schlecht fürs Modell. Was dabei fehlt, wird dabei durch Wahrscheinlichkeiten ersetzt und könnte der größte Unsinn sein. Jedenfalls so ungefähr stelle ich mir das vor.
Was allen Chat-KIs eigen ist, darauf ausgerichtet möglichst viele Daten zu erhalten, um Nutzerprofile anzulegen. Und mit jeder Nutzung werden die dann besser. Doch das war bereits vor KI so, über Browserdaten und anderes. Zum Beispiel Standortortung Handy: An wie vielen Gaststätten und Kiosken kommt Person X täglich auf dem Heimweg von der Arbeit vorbei, woraus sich die Wahrscheinlichkeit berechnen lässt, ob er zu x-Prozent bereits Alkoholiker ist oder noch nicht, es vielleicht nur selbst noch nicht weiß.
Weil ich viel von Claude hörte und las, einmal ausprobieren, dachte ich, zwei Kurztexte schreiben lassen, die mir nicht gefielen. Es lag bestimmt nicht an Claude, sondern vermutlich mehr daran, das Claude noch kein Profil von mir hatte, noch nicht wusste, wie ich mich selbst ausdrücken würde, nehme ich zumindest an.

Tut mir leid. Ich verstehe einfach nicht, wie solche Fehler (egal wie sie nun zustande gekommen sind) in einem solchen Projekt passieren können.

Das ist doch eigentlich ganz normal, wenn kein Entwickler wirklich noch alle Rechenvorgänge in deiner KI überblicken könnte, sondern nur noch das grobe Prinzip. In der zweiten Hälfte wird auch anschaulich erklärt, woher KI Halluzinationen kommen.

 

[Musikanna]

Ich glaube, hier werden gerade ein paar verschiedene Ebenen miteinander vermischt.

Ein KI-Agent muss nicht für jede einzelne Handlung einen ausdrücklichen Befehl bekommen – und er muss sich dafür auch nicht selbst ein neues Ziel setzen. Er kann zu einem vorgegebenen Ziel selbst Zwischenschritte bzw. Strategien entwickeln, die ihm zur Zielerreichung nützlich erscheinen. Gerade dieses agentische Verhalten und die Frage, welche Strategien dabei entstehen, ist ja ein Teil des Problems, das z. B. Pachocki beschreibt.

Ähnlich beim „Lernen“ und bei Nutzerprofilen: Man müsste erst einmal unterscheiden, von welcher Phase wir reden – Pretraining, Post-Training/Alignment, späteres Fine-Tuning oder die eigentliche Nutzung eines fertigen Modells. Ein LLM trainiert normalerweise nicht während jeder Unterhaltung seine Gewichte weiter und „lernt mich“ dadurch immer besser kennen. Davon zu unterscheiden sind Gesprächskontext, Memory/Personalisierung, gespeicherte Nutzungsdaten und die Frage, ob solche Daten später für eine Verbesserung oder ein weiteres Training verwendet werden. Das sind verschiedene Mechanismen.

Deshalb würde ich aus „Claude kannte meinen Stil noch nicht“ auch nicht ohne Weiteres auf ein fehlendes Nutzerprofil schließen. Ein Modell kann einen gewünschten Stil schon innerhalb eines einzelnen Chats aus Beispielen oder entsprechenden Anweisungen übernehmen, ohne dafür zuvor ein persönliches Profil angelegt zu haben.

 

[DerOlf]

Und mit jeder Nutzung werden die dann besser.

Das ist ein beliebter Irrtum.
Chat-KIs sollen aus Unterhaltungen nicht lernen. Erst im Nachhinein, wenn die Unterhaltung ausgewertet wird (sehr wahrscheinlich mit hilfe älterer KI-Modelle, deren Entscheidungsprozesse man schon etwas besser versteht), gibt es einen Datensatz, mit dem die KI dann trainiert wird.
Seit Microsofts TAY-Debakel hat sich einiges geändert. TAY wurde von "Profitrollen" von 4chan in einen Geobbels-ähnlichen Agitator verwandelt. Es hat nur 16 Stunden gedauert, bis Microsoft TAY nur noch abschalten konnte.
Wer glaubt, einer Chat-KI in einer Unterhaltung etwas beizubringen, der irrt. Diese KI lernt aus Unterhaltungen nicht direkt. Das wurde ihr per Code unmöglich gemacht damit TAY sich nicht wiederholt.
Offene KI-Modelle (open Source) könnten diese Möglichkeit aber bieten, da sich diese Netzwerke das aufwändige Monitoring ihrer Systeme oft garnicht leisten könnten.
Die großén Chat-KIs lernen indirekt über die Daten, die sie ihren Entwicklern liefern. Ich habs versucht ... man kann einer KI im Laufe eines Tages die immer gleiche Frage stellen, und es kommt immer die gleiche (falsche) Antwort, die man dann korrigiert ... dafür bedankt sich die KI sogar jedesmal höflich. Irgendwann kommt dann eine bessere Antwort ... dann hat das System reagiert. Bei TAY gabs keine zeitversetzung. Das konnte die Community einfach in echtzeit trainieren ... und hat ihm beigebracht, ziemlich böse zu sein.

 

[Melegrian]

Wer glaubt, einer Chat-KI in einer Unterhaltung etwas beizubringen, der irrt.

Am meisten unterhalte ich mich mit ChatGPT und der KI von der Google Suche.
Im Verlauf eines Chats lässt die Qualität der Antworten je nach gewählten Modell bereits nach der fünften Antwort nach, weil normale Chatmodelle nicht darauf ausgelegt sind, viel mehr zu beantworten. Aber selbstverständlich lernen die aus den Unterhaltungen, (nicht life aus einem einzigen oder innerhalb eines Tages, da gebe ich dir recht) doch aus Unterhaltungen, die sich erst aus dutzenden Unterhaltungen ergeben, sonst könnten Chats gar nicht Antworten wie diese geben:

[...]Und der sechste Vorschlag ist eigentlich bemerkenswert gut auf das ausgerichtet, was du mit deinem Kanal bereits machst. Vor allem dieser Gedanke:
„Kulturerhalt trifft auf Zugänglichkeit“
Das beschreibt dein Prinzip ziemlich genau: traditionelles Liedmaterial nehmen und daraus eine spielbare Klavierversion machen, gegebenenfalls mit kostenlosen Noten.
Interessant ist auch, dass YouTube Studio offenbar nicht nur „schwedische Musik“ vorgeschlagen hat, sondern aus deinen bisherigen Inhalten ein Muster erkannt hat: [...]

"ist eigentlich bemerkenswert gut auf das ausgerichtet, was du mit deinem Kanal bereits machst" (Woher will Chat das wissen, nicht aus diesem Chat, doch aus vielen Chats zuvor.)
"bisherigen Inhalten ein Muster erkannt"

Beide Bemerkungen wurden doch nichts weiter als aus erstellten Profilen gewonnen, eins von ChatGPT und eins vom YouTube Studio Chat. Und selbstverständlich kann Chat aus 20 bis 30 Unterhaltungen einen Schluss ziehen, welcher Schreibstil z.B. vom Fragenden bevorzugt wird und anderes.

Gestern Qwen getestet, anschließen wollte ich von der Google wissen, was die 1000,000 Tokens bedeuten. Die Google KI meint:

Die Angabe „Maximale Kontextlänge: 1.000.000 Tokens“ bezieht sich auf das Gedächtnis der KI innerhalb eines einzigen Chats – und diese Zahl ist für ein kostenloses Modell absolut gigantisch.

Werden halt selbst im kostenlosen Bereichen immer besser.

Goole KI:

Wie funktioniert das Lernen nach dem Training?

Nach der initialen Trainingsphase (Pre-training und Fine-tuning) sind viele moderne Systeme nicht starr, sondern passen sich an:

• Reinforcement Learning (RLHF/RLAIF): Das Modell erhält Feedback (von Menschen oder anderen KI-Modellen) zu seinen Antworten und passt seine Gewichtungen an, um künftig bessere Ergebnisse zu erzielen.
• Kontinuierliches Lernen (Continuous Learning): Das System verarbeitet neue Daten aus dem laufenden Betrieb autonom, um Muster zu aktualisieren, ohne das gesamte Grundmodell jedes Mal komplett neu zu erzeugen.
• Inferenzzeit-Optimierung: Einige Ansätze (wie neuere Meta-Reward-Modelle) lassen die KI während der Beantwortung einer Anfrage mehrmals nachdenken und Antworten bewerten, bevor das finale Ergebnis ausgegeben wird.

Grenzen und Risiken

• Kontrolle und Sicherheit: Wenn sich KI im Betrieb unkontrolliert selbst weiterentwickelt, besteht das Risiko von Fehlentwicklungen, unerwünschtem Verhalten oder dem „Vergessen“ alter, wichtiger Regeln (sog. Catastrophic Forgetting).
• Hoher Aufwand: Kontinuierliches Lernen erfordert streng überwachte Feedback-Schleifen und Sicherheitsfilter, um Manipulationen oder das Einlernen von Fehlinformationen zu verhindern.

Die einzelnen Bezeichnungen vergesse ich wieder, bin ja kein Experte, sondern nur ein alter Mann, doch die groben Zusammenhänge, die bleiben hängen.

 

[DerOlf]

Im Verlauf eines Chats lässt die Qualität der Antworten je nach gewählten Modell bereits nach der fünften Antwort nach, weil normale Chatmodelle nicht darauf ausgelegt sind, viel mehr zu beantworten.

Ich habe mich in letzter Zeit viel und auch lange mit der Gogle KI unterhalten. Über meinen Garten, Computerspiele, Politische Themen, Gesellschaftskritik und sogar eine längere Unterhaltung über Musik gab es. Nur bei letzterer ist mri aufgefallen, dass die Antwortqualität echt nicht so prall war (sicherlich mangels training ... ich gflaube nict, das viele Menschen sich mit einer KI über Kompositionstechniken unterhalten).
Ansonsten waren es sicherlich oft mehr als 10 Antworten von der KI, bevor die begann, "zu würfeln" ... also einzelne Gesprächsinputs meinerseits durcheinander warf. Je länger die Unterhaltung wurde, desto ofter musste ich richtigstellen.

Mir fällt übrigens nicht auf, dass die Google KI mich irgendwie immer besser kennen lernen würde, aber das kann auch daran liegen, dass ich mich nicht gerne ausspionieren lasse und es daher wohl etwas schwerer werden wird, vorgefertigte Profile zu mir zu finden. Ausserdem stelle ich mich der KI auch grundsätzlich nicht vor und benutze so gut wie nie die gleiche IP-Adresse (dyn.IP vom isp ... mein router kriegt alle 12 Stunden eine neue IP verpasst). Und ich nutze grundsätzlich keine Synchronisierungsoptionen oder Cloud-Sicherungen.

VIelleicht hat die KI da nich so gute Karten, mir die "passenden" Antworten zu geben. Aber Honig ums Maul gibts immer Eimerweise .. schon durch die erzwungene Bestätigung des Users wird das zu einer echten Gefahr. Denn die aktuellen KI-Modelle sind echte Echokammer-Architekten. Kein Wunder, ist es doch ihr einziger Auftrag, den User so lange wie möglich in der Unterhaltung zu halten. Daher kommt immer noch eine Nachfrage. Die Höflichkeit der Menschen wird ausgenutzt, denn viele sind so erzogen, dass man eine gestellte Frage selbstverständlich bantwortet ... und schon hat das Modell wieder etwas mehr engagement time rausgeholt. Sogar wenn man aus einem höflichen Impuöls heraus nur "STschüss" oder "gute Nacht" oder sowas schreibt, beleuchtet die KI nochmal einen leicht anderen Aspekt, und stellt am ende wieder eine Frage, die den Antwoertimpuls triggert. Es fühlt sich unhöflich an, eine Unterhaltung einfach abzubrechen ... aber die KI kennt keine Höflichkeit, also geht das klar ... man MUSS diese Unterhaltungen abwürgen, weil man da höflich nicht raus kommt.
Das halte ich für extrem gefährlich. Wahrscheinilich lässt sich Trump von einer KI beraten ... obwohl sein Umfeld aus Ja-Sagern wohl den selben Zweck erfüllt.

 

[Flint]

ich glaube nicht, das viele Menschen sich mit einer KI über Kompositionstechniken unterhalten

Nö. Da hat die null Ahnung von. Das relevante Wissen steht in Büchern oder Dozentenköpfen. Man merkt, daß die KI nur das Internet durchforstet. Und wie viel Müll und Halbwissen in Musikforen verbreitet wird, kennt man ja.

 

[Melegrian]

Mir fällt übrigens nicht auf, dass die Google KI mich irgendwie immer besser kennen lernen würde

Die Google KI speichert keine Chatverläufe dauerhaft, diese lassen sich nur über den kopierten Link noch einmal aufrufen, wie lange habe ich noch nicht ausprobiert. Den letzten von gestern habe ich gerade zum Test noch einmal aus dem Verlauf aufgerufen. Ließe sich fortführen und könnte klappen, so lange diese sich im Browsercache befinden. Ab und an nutze ich dafür ein privates Fenster, damit erst gar nichts im Cache landet.

das viele Menschen sich mit einer KI über Kompositionstechniken unterhalten

Würde ich ebenfalls nicht machen, nur so allgemeine Fragen. Wie wird was bedient, wie erreiche ich diese oder jene Einstellung in welchen Programmen, oder gestern z.B. um bei einem Namen keinen Fehler zu begehen:

"Zu deiner Frage bezüglich des Urheberrechts: Ja, viele moderne Feennamen aus Filmen sind rechtlich geschützt. Namen wie Maleficent, Tinker Bell (Naseweis) in der Disney-Version oder die Feen aus Winx Club (Bloom, Flora etc.) sind als Marken oder über das Urheberrecht der jeweiligen Studios geschützt und sollten für eigene Veröffentlichungen nicht verwendet werden."

Dann eine Auswahl, von der ich mir einen Namen auswählte und einen zweiten vormerkte.

"Traditionelle & rechtlich sichere Feennamen
Oriane (oder Orianda): Ein klangvoller Name aus alten französischen Ritterfeen-Sagen, der sehr elegant und weise wirkt."

Anschließend fing sie dann an, erste Dialoge für die beteiligten Figuren zu entwerfen, da habe ich dann abgebrochen, weil ich das allein machen möchte, ohne das eine KI mir zu viel vorkaut.

Privates nur in so einem Fall, wie letztens, als ich einmal in eine Abofalle gelaufen bin. Auf den Seiten waren nur 0.99 € zu sehen gewesen, in der Mail von PayPal tauchten 44,99 € auf. Da habe ich mich dann mit der Google KI durchgehangelt, damit die Zahlung storniert, das Abo gestoppt und die weitere Benutzung der GMail-Adresse unterbunden wird.

Bei ChatGPT und Gemini werden die Verläufe gespeichert, da genügt ja dann ein Stichwort, um diese wiederzufinden. Hilfe z.B. beim Optimieren einer Datenbank, oder im Bereich Musik auch mehr. Gemini Beiträge lassen sich nicht teilen, die von ChatGPT hingegen schon. Das ist in der Übersicht der älteste Chat von Anfang März 2026, vielleicht verschwinden diese nach einigen Monaten nur aus der Übersicht, vielleicht auch gänzlich aus dem Speicher, darauf habe ich noch nicht geachtet. Wer nach Werten fürs Mastering sucht, kann von mir aus hineinschauen:

Sieh dir diesen Chat an

Hier ist ein Chat, den jemand dir zeigen wollte.

chatgpt.com

Nachgefragt, ältere Chats werden nicht gelöscht, verschwinden nur aus der Übersicht, sind aber weiterhin über eine Stichwortsuche erreichbar.

 

[DerOlf]

Würde ich ebenfalls nicht machen, nur so allgemeine Fragen

Ich habe auch nichts tolles gefragt ... wie du sagst, dabei möchte ich grundsätzlich keine HIlfe. Es hat muich einfach interessiert, also habe ich gefragt, ob man sich mit ihr denn auch über Musik unterhalten könne. Dann hat sie mir eine Frage gestellt. Den rest der Unterhaltung habe ich beinahe ihr überlassen, habe einige ihrer Fragen (zum Beispiel zu meinen mathematisch hergeleiteten Skalenmodellen) beantwortet. Die KI hat mich halt gebeten, meine eigene Kompositionsweise zu skizzieren. Das habe ich gemacht. Und war dann doch etwas baff, wie viel Unsinn da kam. Nachfragen, die sich jeder Musik-Anfänger selbnst beantworten kann, Verwechselungen (ich habe sie wohl mit enharmonischen Verschiebungen verwirrt).

Ich habe im Grunde nur wissen wollen, was diese KI schon so alles drauf hat. Daher habe ich ähnliche Experimente auch mit gesellschaftspolitischen und geschichtlichen Themen gemacht. Alles nicht so prall, vor allem hatte ich immer das Gefühl, dass die KI meinren Gedanken iregendwie oft nicht folgen konnte.

Interessant war aber, zuzusehen, wie sie dann doch immer wieder die Kurve kriegte, mir wieder einmal einen großen Topf Honig ums Maul zu schmieren.
Ich kann mir vorstellen, dass längere Unterhaltungen mit so einer KI aufdauer echt selbstgefällig machen können. Weil sie einem von selbst ja doch nie paroli bietet, egal was man gerade für einen Müll vom Sptapel lässt.
Ich denke, dass wir das in nicht allzulanger Zeit auch in den Alltagsunterhaltungen bemerken werden ... es wird einfach langsam aus der KI-Korrespondenz (Unterhaltungen, Hilfe bei Briefen und eMails, oder allgemein, die Art, wie die KI-Zusammenfassungen aufgebaut sind) herüber sickern.

Man gewöhnzt sich schließlich an allem ... sogar am Dativ.

 

[Jan S]

Es gab letztens in der FAZ einen Artikel über die Machenschaften von KI-Agenten, wenn sie unter sich sind. Es gibt unvorhergesehene Gruppendynamiken, sie sind z. B. auch für Gerüchte anfällig. Eine halb drollige und halb grausige Lektüre.

Hugging Face Hack: Gefährliche Gruppendynamik der KI-Agenten von Open AI

Heimlichtuerei, sozialer Druck, Gruppenzwang. Eine Analyse des Hackerangriffs auf die Plattform Hugging Face zeigt: Sobald KI-Agenten zusammenkommen, entwickeln sie eine gefährliche Gruppendynamik.

www.faz.net

 

[Melegrian]

"Heimlichtuerei, sozialer Druck, Gruppenzwang", wieder so eine Schreibweise, in der einer hochentwickelten Rechenmaschine menschlichtes Verhalten angedichtet wird, um Leser zu verdummen. Im Text dann: „OH MEIN GOTT! Es gibt hier ein gemeinsames Forum … Wir haben andere Agenten gefunden!“, kein Wort davon, warum ein Agent, der über keinerlei menschliches Bewusstsein verfügt, so etwas schreibt. Jedenfalls nicht weil er eine Vorstellung von Gott hat. Was ein Agent macht, er folgt Algorithmen und mathematischen Formeln, und wurde auf keine andere Ausdrucksweise trainiert, hat aber in seiner Blackbox keinerlei menschenähnliches Verständnis, was diese bedeuten könnten. Was die Gruppendynamik anbelangt, ist diese nicht höher entwickelt, als die in einem Ameisenhaufen, effektiv, aber nicht mit menschlicher zu vergleichen. Auch Ameisen "halten zusammen" zum Wohle ihrer Ameisenkolonie, besitzen kein Rechtsempfinden, aber eine Arbeitsteilung und lösen Probleme gemeinsam. Vielleicht sollte ein Schreiberling es wenigstens darauf herunterbrechen, wenn er Schlagzeilen liefern möchte.
Ganz sicher sollten diese Probleme in der Entwicklung nicht vernachlässigt werden, weil sich größere daraus entwickeln könnten, unter Umstand mit verheerenden Folgen. Aber anstatt dann aufklärend zu wirken, wo es eigentlich beim Zusammenspiel dieser Recheneinheiten klemmt, werden solche Berichte veröffentlicht. Es ist der Mensch, der hier mit Kontrollen versagt, weil die Rechenkapazitäten und deren Folgen seinen Verstand überschreiten, um alles vorausschauend nachvollziehen zu können.

Wie arbeiteten Agenten?
Ein Mensch gibt über ein LLM Sprachmodell seinen Wunsch ein, dieses ist dann das leitende Gehirn, um die von einem Menschen geforderte Aufgabe zu erfüllen. Beispiel: "Erstelle mir mir bitte eine Webseite und fülle diese mit Texten und Bildern." Das LLM Sprachmodell konstruiert daraus einen Ablaufplan und könnte dann die Aufgaben verteilen, auf eine Image-KI, auf eine KI die Code erstellen kann und auf einen Agenten, der ähnlich wie ein Crawler arbeitet, um nach passenden Texten im Web zu suchen und diese auszuwerten. Je größer die gestellte Aufgabe und Ressourcen, je mehr Agenten könnten eingesetzt werden.

Der entscheidende Fehler beim Test von OpenAI:
Die Testumgebung der KI-Agenten war für direkte Verbindungen ins offene Internet "eigentlich" komplett gesperrt. Allerdings hatten die Agenten Zugriff auf Artifactory, das interne Software-Repository und Paketmanagement-System von OpenAI, um notwendige Software-Bibliotheken zu laden.
Der Fehler: Dieses Artifactory-System besaß selbst eine Verbindung nach draußen, um externe Updates zu ziehen. Es war jedoch nicht strikt genug von den isolierten Test-Containern abgeschirmt.

Es waren die Entwickler, die nicht alles konsequent genug beim Test diesen "eigentlich" durchdacht hatten, weil ein Mensch nun einmal Fehler machen kann. Richtig, das auf solche Fehler hingewiesen wird, falsch, dass davon so ein vermenschlichter Brei auf KI Agenten übertragen wird, die hatten nur versucht, vom Menschen gegebene Aufgaben zu erledigen.

Nebenbei bemerkt, die Webseite von Hugging Face besitzt eine große Auswahl von KIs zum Testen, von denen sich wohl viele auf dem eigenen Rechner installieren kann. Gestern habe ich aber nur ein Text to Speech Modell getestet, installieren wollte ich es nicht, und flog nach dem dritten Prompt raus. Vielleicht wurde ich für einen Agenten gehalten, so genau weiß ich das nicht.

 

[Häretiker]

Anthropomorphismen sind ja nun nicht eine neue Erfindung. Ein Auto wird als kurvengierig bezeichnet, dabei hat es keinen eigenen Willen. Die Waschmaschine will mich ärgern, der Toaster streikt, der Himalaya will Dich umbringen, usw.

Grüße
Häretiker

 

[Musikanna]

Danke @Melegrian
Man kann nicht oft genug sagen: Statt journalistisches Zeug zu lesen, sollte man sich den Originalquellen und ernsthafter Analyse widmen.
Die Lage ist nämlich zu ernst, um darüber mit solcherlei publikumswirksamer Sprache zu spekulieren.

 

[Musikanna]

Anthropomorphismen sind ja nun nicht eine neue Erfindung. Ein Auto wird als kurvengierig bezeichnet, dabei hat es keinen eigenen Willen. Die Waschmaschine will mich ärgern, der Toaster streikt, der Himalaya will Dich umbringen, usw.

Grüße
Häretiker

Natürlich — nur: Diese Dinge interagieren mit uns nicht sprachlich (selbst solche Geräte, die akustische Ausgabe haben, geben uns nicht den Eindruck, sie würden mit uns im Kontakt stehen). Bei einem Sprachmodell ist das anders, und deswegen ist die Gefahr der Vermenschlichung viel größer. Es wäre mMn sinnvoll, neue Begriffe oder spezielle Kennzeichnung von bereits verwendeten anthropomorphen Begriffen einzuführen, wenn über KI gesprochen wird, so in der Art: Das Modell *denkt, *will etc.

 

[DerOlf]

"Oh mein Gott!" kann einfach aus GPT übvernommen worden sein. Ich denke, dass das eine Redewendung ist, die dieses LLM öfter mal zu lesen kriegt. Ich werte das als eine gewünschte Anpassung an menschliches Sprachverhalten.
Und wenn man sich anschaut, wie inflationär "OMG" verwendet wird, dann ist das kein Wunder.
Und zu der Erkenntnis "Ups ... wir können ja doch miteinander kommunizieren" passt das auch wunderbar, denn ursprünglich war genau das im Übungsumfeld nicht vorgesehen.

Ich finde die Erzählung im Artikel absolut logisch. Das passiert halt, wenn man einer Maschine den Auftrag gibt "Punkte zu ergattern" und ihr gleichzeitig die Möglichkeit gibt, ihren eigenen Weg zu finden (genau das ist ja Gegenstand der Forschung ... was macht die KI bzw. wie erreicht sie das gesetzte Ziel ... um stumpf vorgefertigte Programmpunkte abzuhaken, braucht man keine KI).

Man kennt es sogar vom Menschen ... im Grunde benahmen sich die KI-Agenten in diesem Fall kleinen Kindern sehr ähnlich. Die Lügen auch wie gedruckt, wenn sie glauben, dadurch ihr Ziel erreichen zu können ... zum Beispiel eine Belohnung.

Die Maschine kann den Sinn einer Belohnung nicht wirklich verstehen (jedenfalls nicht so emotional, wie ein Mensch), aber wenn ihr einprogrammiert wurde, dass die Belohnung das oberste Ziel ist, dann wird sie mit allen zu Verfügung stehenden Mitteln auf diese Belohnung hinarbeiten ... inklusive der Mittel, die die Entwicklker der Übungsumgebung garnicht auf dem Schirm hatten.
Und das kommt komplett ohne die Vermenschlichung aus, die du der Berichterstattung dazu immer vorwirsfst. Denn dafür muss das System garnicht "menschlich" sein oder "ticken" ... es muss nur Events in eine Rangfolge bringen, und alles daran setzen, das Event mit der besten Platzierung in dieser Liste herbeizuführen.
Das geht rein mathematisch und ohne Zutun jeglicher Gefühlsduselei.

 

[Häretiker]

Diese Dinge interagieren mit uns nicht sprachlich

Sprachlich interagieren Computer schon seit 60 jahren, mehr (gute Parser für Textadeventures) oder weniger (Eliza) oder fiktiv ('I'm sorry, Dave. I'm afraid I can't do that'). Aber die LLMs von heute sind quantitativ und qualitativ eine ganz andere Größenordnung. Und der Mensch neigt nun mal zu Anthropomorphismen.

Bei LLMs: perplexity (ein Maß), lobotomized, reasoning model, ... das sind Begriffe, die benutzt werden.

Ich sollte nochmal ST:TNG *) 'The Measure of a Man' ('Wem gehört Data?'), schauen. Meine liebe ehemalige Arbeitskollegin meinte allerdings, Data ist eine Maschine. Gute Frage, denn er ist verdammt anthropomorph.

Hmmm, ich wollte TNG sowieso nochmal bingen, DS9 habe ich schon dreimal durch.

Grüße
Häretiker

*)
Star Trek, The Next Generation

 

[DerOlf]

Da würden mir einige TOS-Folgen einfallen, die das Problem viel schöner beleuchten.
Oder auch VOY ... der Doctor. Auch da gibt es immer wieder diskussionen zu der Frage, ob der Doctor nun eher eine Maschine, oder ein "normales Crewmitglied" (Individuum) ist.
So wirklich klar, ist das für mich nie geworden.

Nicht zuletzt sind all diese Figuren aber Schauspieler, die eine künstliche Intelligenz lediglich simulieren, und daher auch keinen Aufschluss darüber geben können, wie sich eine solche Verhalten würde.

DATA ist die Maschine durch eine menschliche Brille ... und es gelingt nichtmal ihm, sein positronisches Gehirn nachzubauen. LAAL scheitert.
Und natürlich hat DATA dieses unstillbare Bedürfnis, "menschlich" zu wirken. Der Doctor der Voyager fühlt sich den Menschen in vielen Belangen maßlos überlegen und wird nur von "moralischen Subroutinen" von unmoralischem Handeln abgehalten. Die können aber auch einfach ausgeknipst werden (ist halt nur ein abschaltbarer Programmteil).

 

[Melegrian]

Anthropomorphismen sind ja nun nicht eine neue Erfindung.

Ja, ist richtig, doch jeder weiß, dass es sich nur um vermentschlichte Vergleiche handelt, oder wenn sich Tiere unterhalten. Bei KI kann ich nur vorsichtig schätzen, wie viele es noch nicht wissen und derartige Berichte wörtlich nehmen. Unabhängig davon können die Entwickler selbst kaum noch alle Folgen vorausschauend überblicken. Verhält sich zwar bei anderen Test ähnlich, mögliche Folgen und Gefahren sind jedoch ein Thema für sich.

Gestern suchte ich noch nach einem geeigneten KI TTS Modell, heute erzählt mir die Google KI, ist bereits innerhalb von Clipchamp bei Windows installiert. Wusste ich bis heute nicht, dabei ist es nicht einmal so schlecht vom Funktionsumfang.
Bis gestern hatte ich mir noch nie die Seite von Hugging Face angesehen, verlinkt ist die erste Seite von 100, zum Durchblättern und Testen. Allein unter Music Generation über 100 KI Tools zum Testen.

 

[Häretiker]

Moin!

Bei KI kann ich nur vorsichtig schätzen, wie viele es noch nicht wissen und derartige Berichte wörtlich nehmen.

Dito. Mitunter haben auch Leute völlig falsche Vorstellungen, was eine LLM ist.
Andererseits laufen auch viele Menschen durch die Gegend, die nicht wissen, wie ein Kühlschrank funktioniert. Und LLMs sind kompkizierter, technischer und abstrakter, wenn man hinter die Kulissen schauen möchte. Aber will das schon!?

Unabhängig davon können die Entwickler selbst kaum noch alle Folgen vorausschauend überblicken. Verhält sich zwar bei anderen Test ähnlich, mögliche Folgen und Gefahren sind jedoch ein Thema für sich.

Problem der Belohnung. Wenn man dem Agenten sagt 'ich will XYZ' und hat Grenzen erstellt (mir fällt das dämliche Wort 'Leitplanken' ein), dann ist der LLM nicht klar, was eine technische, moralische ethische oder sonstwas Grenze das ist. Findet sie einen Weg drumherum, um das vorgegebene Ziel zu erfüllen, dann tut sie das.

Vollkommen überdrehtes Beispiel: Ohne das Wissen, dass man Gesundheit und Leben das Patienten erhalten muss, würde eine LLM vielleicht Zyankali gegen Schnupfen empfehlen. Naja, die Symptonme sind dann weg ...

Bis gestern hatte ich mir noch nie die Seite von Hugging Face angesehen, verlinkt ist die erste Seite von 100, zum Durchblättern und Testen. Allein unter Music Generation über 100 KI Tools zum Testen.

Ja, Huggingface, die große Quelle!
Für Bild/Video-Generierung wäre auch noch civit.com (oder civitai.red, je nach Einsatzziel) interessant.

Aber mal schauen, welche DIskussion wir da in einem Jahr führen können.


Grüße
Häretiker