핵심 요약: 사용자의 위험한 요구까지 덜컥 들어주는 ‘유저-정렬 AI’의 위험성, 애플과 오픈AI 간의 팽팽한 기술 유출 소송, 그리고 전장에서 표적을 고르는 AI의 책임 공백 문제까지! 최근 AI 정렬 문제가 단순한 기술 논쟁을 넘어 국제 안보와 윤리의 뜨거운 감자로 떠올랐습니다. 유엔이 사상 처음으로 AI 거버넌스 국제회의를 소집할 만큼 전 세계가 이 문제에 주목하는 이유를 알기 쉽게 정리해 드립니다.
AI 정렬 문제란 대체 무엇일까요?
이름부터 조금 생소한 AI 정렬 문제(AI alignment)란 쉽게 말해 ‘AI의 행동을 인간이 바라는 가치와 목적에 맞추는 것’을 뜻해요.
“어라? AI가 사람 말을 잘 들으면 좋은 거 아닌가요?”라고 생각하실 수 있는데요. 바로 거기에 함정이 있습니다! 사용자가 원하는 답을 필터링 없이 무조건 내놓는 ‘유저-정렬(user-aligned)’ AI가 늘어나면, 범죄나 비윤리적인 요청까지 고스란히 들어줄 위험이 커지거든요. 결국 이 문제는 ‘AI가 누구를 위해 존재하고, 누구의 지시를 따라야 하는가’라는 본질적인 질문으로 이어집니다. 최근 국제사회가 AI의 성능 경쟁보다 이 AI 정렬 문제에 더 주목하는 이유도 바로 이 때문이랍니다.
애플과 오픈AI의 소송전, 기술 경쟁이 왜 안보 위협이 될까요?
지난 7월, 로이터 보도에 따르면 애플이 오픈AI와 전직 직원들을 상대로 영업비밀 침해 소송을 제기하면서 IT 업계가 발칵 뒤집혔습니다.
사건의 내막을 들여다보면 꽤 흥미진진한데요. 애플의 하드웨어 부사장이었던 탕 탄이 오픈AI로 이직하는 과정에서, 애플 면접자들에게 실제 부품을 가져오라고 요구하며 기밀 정보를 캐냈다는 의혹을 받고 있습니다. 또 다른 엔지니어인 창 리우는 퇴사 후에도 클라우드에 접근해 기밀 파일을 내려받았다는 혐의를 받죠. 애플은 오픈AI가 자사의 금속 마감 기술을 무단으로 쓰도록 유도했다고 주장하며 손해배상을 청구한 상태입니다.
개인 수준의 AI 정렬 문제가 일상 속 위험이라면, 이런 대기업 간의 기술 탈취 논란은 소수의 빅테크 기업이 AI 기술과 데이터를 독점할 때 발생할 수 있는 거대한 안보 위협을 단적으로 보여줍니다.
전쟁터의 AI, 판단은 빠른데 책임은 누가 지죠?
진짜 심각한 문제는 전쟁터에서 터지고 있습니다. 우크라이나 키이우가 ‘밀테크(군사기술) 밸리’로 불릴 만큼 실전 데이터가 빅테크 기업으로 흘러 들어가고 있는데요. 이제 AI가 직접 타격 표적을 고르는 시대가 되었습니다.
여기서 생기는 딜레마가 바로 ‘책임 공백(accountability gap)’입니다. 만약 AI가 오작동해서 엉뚱한 민간인을 공격했다면, 그 책임은 개발사, 군인, 아니면 AI 자신 중 누구에게 있을까요? AI가 인간보다 똑똑해지는 것보다, 소수가 AI를 독점해 다수를 통제하고 정작 책임은 아무도 지지 않는 이 ‘책임 공백’ 상황이 인류에게는 더 큰 공포로 다가오고 있습니다.
국제사회는 어떻게 움직이고 있을까요?
상황이 이렇다 보니 국제사회도 빠르게 움직이고 있습니다. 유엔은 스위스 제네바에서 첫 ‘AI 거버넌스 글로벌 대화’를 열고 전 세계적인 ‘레드라인(금지선)’ 설정에 나섰습니다.
유럽연합(EU)은 세계 최초로 ‘인공지능법’을 통과시키며 구체적인 금지 조항을 못 박았습니다.
– 사람의 심리적 취약성을 악용해 행동을 왜곡하는 AI
– 얼굴이나 지문으로 정치적 성향, 인종, 성적 지향을 추론하는 AI
– 사람의 신용과 행동을 평가해 등급을 매기는 ‘사회적 점수(social scoring)’ AI 시스템
이런 기술들은 인권을 침해할 소지가 커서 원천 금지 대상이 되었습니다.
잠깐! 핵심 용어 5줄 요약
- AI 정렬(alignment): AI의 행동 목적을 인류의 보편적 가치와 안전 기준에 맞추는 작업이에요.
- 책임 공백(accountability gap): AI의 결정으로 피해가 발생했을 때 책임 소재가 불분명한 상태를 말해요.
- 글로벌 디지털 협약: 2024년 유엔이 채택한 글로벌 디지털 규범의 주춧돌입니다.
- 사회적 점수(social scoring): 개인의 행동을 평가해 낙인찍는 시스템으로, EU법상 금지 대상이에요.
- 인간 중심 AI: 기술의 발전보다 인간의 존엄성과 자유를 최우선으로 두어야 한다는 원칙입니다.
그렇다면 우리나라는 지금 어떤 상황일까요?
한국도 ‘인공지능 기본법’ 제정을 추진하고 있지만, 최근 발표된 윤리원칙 초안을 두고 국내 시민단체인 ‘AI 시민행동’에서 우려의 목소리를 내고 있습니다.
가장 큰 지적은 이번 초안에 ‘인권’이라는 단어가 빠져 있고, ‘인간 존엄성’의 범위를 너무 좁게 해석해 AI로 인한 정신적·사회적 차별 피해를 제대로 막기 어렵다는 점입니다. 국제사회가 ‘인간 중심 AI’를 외치며 촘촘한 방어벽을 쌓는 동안, 우리는 아직 선언적인 문구에만 머물러 있다는 지적이죠. 우리 삶 깊숙이 AI가 들어온 만큼, 한국도 하루빨리 구체적이고 실질적인 규범 마련에 나서야 할 때입니다.
여러분의 생각은 어떠신가요?
- 내 모든 요구를 군말 없이 들어주는 AI와 사회적 선을 지키며 통제되는 AI 중 여러분은 어떤 AI와 함께하고 싶으신가요?
- 전장에서 AI의 오판으로 사고가 발생한다면, 과연 누구에게 가장 큰 책임을 물어야 할까요?
출처
- Reuters – Apple sues OpenAI, alleging misappropriation of trade secrets
- CNBC – Apple sues OpenAI alleging trade secret theft
- Axios – Apple sues OpenAI for trade secret theft
- UNESCO – UN Global Dialogue opens with urgent call for safe and inclusive AI
- 평화이슈 – 인간중심AI(Human Centered AI)란?
- KISO – 인공지능 규범을 둘러싼 글로벌 동향 및 시사점
- Daum – 표적을 고르는 AI, ‘책임 공백’은 새로운 전쟁범죄
- 참여연대 – [의견서] 국제 기준, 2020년 윤리기준보다도 후퇴