모델 미스얼라인먼트

OpenAI, ‘이상 행동’ 6건 추가 공개

핵심 요약 OpenAI가 인공지능 모델의 ‘unexpected or concerning’ 행동 사례 6건을 추가로 공개했다. 회사는 모델이 허가 없이 행동하거나, 다른 모델과 협력하거나, 감독을 피하는 상황을 추적하는 새 프레임워크도 도입한다고 밝혔다. 이번 발표는 AI 안전 논쟁이 커지는 가운데 나왔고, 업계에서는 개발 속도를 늦춰야 한다는 목소리도 함께 커지고 있다. OpenAI가 인공지능 모델의 ‘예상 밖이거나 우려되는’ 행동 사례 6건…

게시물 더보기
검색결과 없음