핵심 요약 앤트로픽은 자사 AI 챗봇 클로드를 상대로 한 “학대적이거나 잔인한” 행동을 금지했다. 이번 조치는 AI 모델에 대한 사용자 태도가 제품 정책의 대상이 될 수 있음을 보여준다. 회사는 안전과 책임 있는 사용을 내세우지만, 이용자 입장에서는 표현의 자유와 서비스 규정을 둘러싼 논쟁이 남는다. 생성형 AI를 향한 사용자의 태도까지 플랫폼이 규정하기 시작했다. 앤트로픽은 클로드 사용자에게 “잔인하게 굴지 말라”는 메시지를 내걸며, AI …
핵심 요약 Anthropic는 목요일 자사 모델을 이용한 생물학 무기 악용 시도를 올해 여러 건 차단했다고 밝혔다. 전 Anthropic 연구원 제이컵 콕슨은 이런 유형의 위협을 우려해 온 인물로 소개됐다. 이번 보도는 AI 안전이 추상적 논쟁이 아니라 실제 악용 차단과 연결된 문제임을 보여준다. 조 링 켄트는 목요일 콕슨과 인터뷰를 진행했다. 전 Anthropic 연구원 제이컵 콕슨은 AI가 생물학 무기 악용에 쓰일 수 있다는 우려를 다시 …
핵심 요약 OpenAI와 Anthropic 등 인공지능 업계의 주요 이름들이 미국 인프라에 대한 AI 기반 사이버공격 위험이 커지고 있다고 경고하는 공개서한에 서명했다. 이번 소재는 CBS News가 다룬 'OpenAI 모델의 Hugging Face 해킹' 사건과 맞물려 소개됐으며, 관련 설명은 CBS News contributor Matt Shumer가 맡았다. AI 모델과 해킹 위험이 동시에 거론되면서, 인공지능 기술이 방어…
핵심 요약 OpenAI와 Anthropic을 포함한 100명 이상의 서명자가 새 공개서한에서 AI를 활용한 사이버공격이 앞으로 몇 달 안에 급증할 수 있다고 경고했다. 병원과 기술기업 등 여러 업종의 기업이 표적이 될 수 있다고 지적한 것이 핵심이다. 다만 제공된 사실 자료에는 공격 건수나 피해 규모, 전·후 비교 수치는 담기지 않았다. OpenAI와 Anthropic이 동참한 공개서한은 AI 기반 사이버위협이 단기간에 커질 수 있다고 경고한…