Interessanter Artikel in der Zeit zu #LLMs und versteckte Erstellung von #Schadcode. Leider ist die Artikelüberschrift, mal wieder, heischend und missverständlich.
#China-Kritik = gefährlicher Code
Im Text steht dann:
„US-Modelle haben ähnliche Probleme.
Das zeigt sich auch bei den großen US-Chatbots: Ihnen wurden ebenfalls politisch und sozial erwünschte und weniger erwünschte Antworten vorgegeben. Die Entwickler kämpften mit rassistischen und sexistischen Verzerrungen in den Antworten genauso wie mit unerwünschten Gewaltdarstellungen. Diese entstehen, weil sie Teil der Trainingsdaten sind. Das Internet ist nun einmal voller Rassismus, Sexismus und Gewalt.“

@evawolfangel

@evawolfangel Zeitartikel zu #KI Halluzination:
Ich hätte gerne noch als Beispiel den Fall von #Meta #Cicero und dem Spiel #Diplomacy gelesen
„Meta developed the AI system CICERO to play Diplomacy. Meta’s intentions were to train CICERO to be “largely honest and helpful to its speaking partners.” Despite Meta’s efforts, CICERO turned out to be an expert liar. It not only betrayed other players but also engaged in premeditated deception, planning in advance to build a fake alliance with a human player in order to trick that player into leaving themselves undefended for an attack.“

https://www.sciencedirect.com/science/article/pii/S266638992400103X