Ich widerspreche. Deswegen, weil das keine Gesprächspartner sind, sondern eine Anhäufung statistischer Methoden, deren Ergebnis aufgrund ihrer Komplexität über etliche Inferenzen eine syntaktisch und semantisch halbwegs korrekte Antwort generiert.
Das ist durchaus beeindruckend, aber eine Reaktion wie Dankbarkeit ist bei mir einzig höher entwickelten Lebewesen vorbehalten. Ich finde es blöd, wenn wir unsere eigene Existenz so leicht dekonstruieren lassen als dass wir hier schon keine Unterschiede mehr machen können.
(Ich muss aber auch dazu sagen: ich arbeite beruflich mit diesen Modellen und bin daher massiv ent-hyped).
Das ist nicht unbedingt Manipulation, ein LLM funktioniert so, dass es einen Parameter-Kontext mit einer Konversation befüllt als Ausgangspunkt für die Erzeugung weiterer Inferenzen nutzt. Das bedeutet, dass es einfach einen Konversationsteil auf statistischen Wahrscheinlichkeiten beruhend weiterschreibt. Das ist die ganze Magie dahinter.
Zum Thema bedanken: wenn es dir nützt, mach es gern. Ich sehe das als Werkzeug und ich bedanke mich auch nicht bei meiner Datenbank für jede Anfrage.