본문 바로가기

전체 글58

AI가 법을 만든다 - 앤스로픽의 집단적 헌법 제정 모델 2026년 1월, 앤스로픽(Anthropic)은 약 15,000명의 일반 대중이 참여한 대규모 토론 실험을 통해 도출된 '집단적 헌법 AI(Collective Constitutional AI)' 모델을 발표했습니다. 이는 기존에 직원들이 직접 작성했던 가이드라인에서 벗어나, 대중의 합의를 모델의 윤리적 기준으로 삼으려는 시도입니다. https://www.youtube.com/watch?v=8bPUrT9u5nU&pp=ygUU7YG066Gc65OcIEFJIO2XjOuylSA%3D 앤스로픽 Claude 헌법 제정 과정앤스로픽이 Claude를 위한 자체 헌법을 제정한 과정의 핵심은 다음과 같습니다.1. 주요 운영 원칙집단 설계 (Collective Design): Pol.is 플랫폼을 통해 시민들이 AI가 따라.. 2026. 1. 24.
"누구나 AI를 개발하고 활용할 수 있는 AI 민주화 세상"이 가까이 오고있다. 2026년 1월 17일 월스트리트저널(WSJ) 기사에 따르면, 앤스로픽(Anthropic)이 출시한 최신 모델 '클로드 오퍼스 4.5(Claude Opus 4.5)'와 이를 기반으로 한 '클로드 코드(Claude Code)'가 기술 업계를 넘어 일반 대중 비개발자들(Non-nerds: 과학이나 기술, 특히 컴퓨터쪽에 관심이 많은 사람들 )에게까지 거대한 파장을 일으키고 있다. https://www.wsj.com/tech/ai/anthropic-claude-code-ai-7a46460e개발자와 기업 경영진들은 이 도구의 압도적인 성능에 매료되는 현상을 "Claude-pilled(클로드에 취하다/눈을 뜨다)"라고 부르며, 생성형 AI의 초기 등장 시기에 버금가는 충격을 받고 있다.기존 AI가 주니어 개발자 .. 2026. 1. 22.
그록(Grok)의 AI 성착취 논란 이미지 생성, "빙산의 일각?" (옥스퍼드대 전문가 경고) 이 내용은 옥스퍼드 대학교 기사“Expert Comment: Chatbot-driven sexual abuse? The Grok case is just the tip of the iceberg”의 원문 내용 전체를 충실하게 번역한 내입니다:2026년 1월 14일, 옥스퍼드 대학교 인공지능 윤리 연구소(Institute for Ethics in AI)의 Federica Fedorczyk 박사는 최근 일론 머스크의 AI 챗봇 Grok이 동의 없이 아동과 여성의 성적 이미지를 생성한 사건을 통해딥누드·딥페이크 기술이 더 넓은 온라인 성적 학대 생태계를 드러냈다고 지적했다.Grok은 사용자가 사진을 업로드하면 그 인물의 옷을 벗기고 속옷, 비키니, 투명 옷 등 성적으로 노골적인 자세로 바꾼 이미지를 생성할 수 .. 2026. 1. 19.
착각적 진실 효과: 반복이 만드는 진실같은 가짜 믿음, 뇌의 오류 1. 인간 뇌의 오류착각적 진실 효과(Illusory Truth Effect) 는 정보의 거짓 여부와 상관없이, 단순히 반복적으로 노출되는 것만으로 사람들이 해당 정보를 진실로 믿게 되는 심리적 현상을 의미합니다. 이는 인간의 뇌가 정보를 처리할 때 에너지를 효율적으로 쓰려는 본능에서 비롯됩니다.뇌는 반복된 정보를 처리할 때 더 적은 에너지를 소모하며, 이를 '인지적 유창성(Cognitive Fluency)'이라고 합니다. 우리 뇌는 정보가 매끄럽게 처리될 때 느껴지는 친숙함을 '진실'이라는 신호로 잘못 해석합니다. 이 과정에서 개인의 기존 지식이나 논리적 판단은 무력화되기도 하며, 틀린 정보임을 인지하고 있더라도 반복해서 듣게 되면 "혹시 사실인가?"라는 의구심과 함께 믿음이 생성됩니다. 2. 작동 .. 2026. 1. 1.
반응형

티스토리툴바