Oh come on, was ist das denn für eine seltsame Aussage um nicht „Ausrede“ zu sagen? Beantwortet außerdem null die Frage.

Spätestens mit ChatGPT-5o und agentic systems dürfte es schwer fallen, die Frage zu beantworten, ob eine AI Endanwendung ein LLM ist, oder nicht.

Das beantwortet immer noch nicht meine Frage. Hier ist es btw super erklärt, was das bedeutet, dass es mehr ist, als ein LLM und warum es trotzdem nicht einfach selbstständig drauflos denkt und Menschen random in den Suizid schickt. somerandomnerd.net/blog/just-an...

Hab' ich nie behauptet. Die Liebesmüh, mich von etwas zu überzeugen, das nicht Teil meines Arguments war, ist verschwendet. Mit geht's nicht um die Intention oder wie etwas funktioniert, sondern schlicht um Produktsicherheit und Qualität.

Wie etwas funktioniert hat aber nun mal Einfluss darauf, wie sich Produktsicherheit umsetzen lässt und was die Ursachen für solche schrecklichen Ereignisse wie der Suizid dieses Jungen sind. Das ist nicht trennbar, man kann das eine nur vorantreiben, wenn man das andere versteht.

Ja, deshalb habe ich ja eingangs als Hypothese geäußert, dass OpenAI das Training vergurkt hat. Man hätte zB systematisch bestimmte Themen aus dem Trainingsset ausschliessen können. Oder mehr Kontrollen einbauen, dass bei bestimmten Themen vorprogrammierter Output kommt, zB Empfehlung ärztl. Hilfe.

Ja, hätte hätte, hat man aber nicht, vermutlich unter anderem weil man Vieles nicht bedacht hat, für so eine Diskussion ist es zu spät. Wichtig ist, dass man jetzt nachbessert und das hat OpenAI schon einmal getan und wird es auch wieder tun.

Wer weiss, wie viele Themen da noch hochkommen. Nicht zuletzt wird ChatGPT gern bei der Anbahnung von Straftaten genutzt. Daher das Ausgangsposting.

Wenn interne Kontrollen unzuverlässig sind, werden halt externe Kontrollen benötigt, um Schaden zu vermeiden.

Meines Wissens nach ist es immer LLM, nur werden - wohl aus Kostengründen - per Default unterschiedliche Modelle "geroutet". Auch sehr kleine, wenn man Pech hat. Man kann das derzeit noch, auch im kostenlosen Modell, umgehen - mehr Details hier: www.youtube.com/watch?v=9Y9d...