Ja, deshalb habe ich ja eingangs als Hypothese geäußert, dass OpenAI das Training vergurkt hat. Man hätte zB systematisch bestimmte Themen aus dem Trainingsset ausschliessen können. Oder mehr Kontrollen einbauen, dass bei bestimmten Themen vorprogrammierter Output kommt, zB Empfehlung ärztl. Hilfe.
Ja, hätte hätte, hat man aber nicht, vermutlich unter anderem weil man Vieles nicht bedacht hat, für so eine Diskussion ist es zu spät. Wichtig ist, dass man jetzt nachbessert und das hat OpenAI schon einmal getan und wird es auch wieder tun.
Wer weiss, wie viele Themen da noch hochkommen. Nicht zuletzt wird ChatGPT gern bei der Anbahnung von Straftaten genutzt. Daher das Ausgangsposting.
Wenn interne Kontrollen unzuverlässig sind, werden halt externe Kontrollen benötigt, um Schaden zu vermeiden.