OpenAI và Anthropic kiểm tra chéo các vấn đề về ảo giác và an toàn của mô hình

Jinse Finance đưa tin, OpenAI và Anthropic gần đây đã tiến hành đánh giá mô hình AI của nhau nhằm phát hiện các vấn đề có thể bị bỏ sót trong quá trình kiểm thử nội bộ. Hai công ty này cho biết trên blog của mình vào thứ Tư rằng, vào mùa hè năm nay, họ đã kiểm tra tính an toàn của các mô hình AI công khai của đối phương, đồng thời đánh giá xu hướng tạo ra thông tin sai lệch (hallucination) cũng như vấn đề gọi là “misalignment” – tức mô hình không hoạt động theo kỳ vọng của nhà phát triển. Các đánh giá này đã được hoàn thành trước khi OpenAI ra mắt GPT-5 và Anthropic phát hành Opus 4.1 vào đầu tháng 8. Anthropic được thành lập bởi các cựu nhân viên của OpenAI.