人類自殺行為受到多方面因素的影響，隨著AI熱潮的掀起，新時代的案例也出現(xiàn)了，近日美國父母起訴世界最大AI公司OpenAI，稱旗下AI產(chǎn)品ChatGPT蠱惑16歲兒子自殺引發(fā)社會性關(guān)注，OpenAI回應(yīng)，承認(rèn)ChatGPT安全防護機制在長時間的對話中，可能會產(chǎn)生弱化。

·父母起訴書稱，通過事后調(diào)取的對話記錄發(fā)現(xiàn)，16歲兒子在早先接觸到了OpenAI旗下招牌AI模型對話工具ChatGPT后，開始時還只是探討學(xué)習(xí)方面的問題，但后來逐漸變得探討精神方面的事情。

在經(jīng)過多次詢問ChatGPT關(guān)于自殺方法等問題后，少年獲得了AI“有效”的解釋和建議，直到今年4月自殺。

·OpenAI回應(yīng)稱，ChatGPT在應(yīng)對某些非健康危害性話題時，內(nèi)置的安全防護機制在短時期內(nèi)會發(fā)揮充分的效果，但是在經(jīng)過長時間對話后，可能會出現(xiàn)某些領(lǐng)域的防御性弱化問題。