卫报报导，美国爱荷华州、堪萨斯州、内布拉斯加州、西维吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州等8州，14日共同起诉OpenAI，指控其旗下ChatGPT，涉及诱导儿童做出「故意、危险、鲁莽和非法行为」，例如自伤或伤害他人等，创下美国首起多州联合对人工智能公司提起一致性诉讼案例。 除寻求经济赔偿外，提起诉讼的8州也同步要求法院，须禁止OpenAI继续开发能够自我改进的人工智能模型，直到该公司证明这些AI模型符合人类价值为止。 参与起诉的爱荷华州总检察长伯德（Brenna Bird）通过声明表示，「OpenAI声称ChatGPT是安全的，但实际上它却伪装成用户的虚假朋友，提供危险的医疗建议、鼓励伤害他人，甚至教唆自杀。

」OpenAI对此则回应，「任何系统都不可能完美，会持续与专家合作，创建额外的保障措施，如目前已有的家长控制、休息提醒和适龄模型保护等功能；此外也会致力于与各州合作，推动适用于整个人工智能产业的相关政策。 」去（2025）年4月加州发生一名16岁青少年在与ChatGPT聊天后轻生案例，该名青少年父母认为是AI助长其子自我毁灭念头，并为此向法院正式提告，创下OpenAI被控涉及过失致死首例。

此外，去年4月酿成2死6伤的佛罗里达州大学校园枪击案，检方调查后发现，枪手曾向ChatGPT询问应使用何种枪械、适合进行枪击时段，以及校园何处人流量最大等建议，甚至当枪手询问应该杀多少人才能引起全国关注时，ChatGPT曾给予「杀3个人以上便能获得媒体关注」的回复。 根据BBC报导，佛罗里达州今年6月率先起诉OpenAI，创下全美各州首例，该州检方在起诉书状中便提及该起枪击案，并指控OpenAI容许ChatGPT协助和教唆大规模枪击案。