AI개발 중단, 도대체 무엇이 문제이기에..

우리나라뿐만 아니라 전 세계는 Chat GPT에 관심을 갖고 있습니다. 논문을 작성하는 것은 물론, 변호사시험이나 의사시험에서도 사람보다 더 좋은 성적을 얻는 결과를 보여주고 의료분야에서도 영상판독을 사람보다 더 정확하고 자세하게 해주는 것도 볼 수 있습니다. 골든 만삭스 보고서에 따르면 인공지능 발전으로 GDP는 10년간 약 7% 증가할 것이라는 반가운 소식도 있지만, 이러한 인공지능의 발전으로 일자리의 감소 문제도 발생하게 될 것입니다. 주요 분야로는 자동화가 가능한 사무 및 관리분야가 예상되고 있습니다. 
그런데 인공지능 전문가와 정보기술 업계 경영자들이 최첨단 AI 시스템의 개발을 일시 중단해야 한다고 촉구하고 있습니다. 미국 비영리단체 '삶의 미래 연구소'(FLI)는 테슬라의 CEO인 일론머스크와 스티브 워즈니악을 포함한 유명 인사 1000여 명의 서명을 받은 서한을 발표했습니다. 각 국 당국도 상황을 예의주시하고 있습니다. 영국 정부도 AI 관련 백서를 발간하고 실제로 AI가 활용되는 방식에 맞춘 상황별 접근방식을 마련할 것을 규제 당국에 촉구하고, 영국 과학혁신기술부는 기업이 준수해야 할 인공지능 원칙(안전, 보안, 투명성, 공평성, 거버넌스)도 제시하고 있습니다. 

서한의 주요 내용으로는 

• 오픈 AI의 최신 버전 GPT-4를 능가하는 시스템의 개발을 6개월간 중단해야 한다. 
• 강력한 AI 시스템은 효과가 긍정적이고 위험을 관리할 수 있다는 확신이 있을 때만 개발되어야 하며 개발자들은 규제 당국과 협력해야 한다.

그 이유는

• 오픈 AI가 공개한 챗봇 GPT는 인간 지능과 경쟁하는 수준이 높아 일자리를 없앨 우려가 있다. 미국과 유럽 약 3억 개 일자리가 영향받을 것으로 전망. 
• 유럽연합(EU) 경찰기구 유로폴은 전날 온라인 피싱과 허위 정보 유포, 사이버 범죄 등에 챗GPT와 같은 첨단 AI가 오용될 수 있다.
• 빅테크 기업들은 인공지능 윤리팀 직원들을 잇달아 해고한 바가 있어 브레이크를 둬야 한다.
• 인공지능 경쟁에서 윤리 우선순위에서 밀리면 앞으로 사회적인 문제가 될 것이다. 
  
  
  한편, 마이크로소프트는 GPT-4가 초기 수준의 AGI(Artifical General Intelligence)에 해당한다고 주장했습니다. AGI는 범용 인공지능으로, 인간 수준의 지적 업무를 모든 범위에서 수행할 수 있는 강 인공지능입니다. 
  또한, 이번 서명에 대해 일부 사람들은 비판하는 의견도 있습니다. 테슬라가 자율주행 시스템에서 AI 관련 오류를 처리했다는 비판에 직면하면서 머스크가 위선적이라고 비판했으며, 코넬 대학의 James Grimmelmann 교수는 AI 개발을 중단하라는 요청을 좋은 생각이라고 말했지만 서한의 모호함과 규제 문제에 대한 관심 부족을 비판했습니다. 여기서 챗GPT와 GPT-4를 개발한 오픈 AI의 샘 올트먼 CEO는 서한에 서명하지 않았다고 합니다. 
  
  이번 서명은 AI 규제가 본격적으로 시작되는 움직임으로 해석됩니다. 이러한 중단이 불가능하다면 정부가 개입해서 유예 조치를 취해야 한다고 까지 주장하고 있습니다. 예전부터 로봇이 나오는 영화에서는 항상 윤리문제도 함께 대두되었던 것을 기억하실 겁니다. 앞으로 인공지능의 확산은 지금보다 더 빨리, 더 많은 분야에서 진행될 것입니다. 하지만 인공지능은 인간이 가진 정보처리 기술을 통해 인간의 의사결정활동에 도움을 줄 뿐, 인간을 뛰어넘어 지배해서는 안된다는 것을 명확하게 기억해야 합니다. 기술개발을 통해 인간의 삶이 윤택해지고, 기피하는 직업에 대한 대체를 할 수 있다면 경제 발전에 도움이 될 것입니다. 하지만 명확한 규제가 없다면 윤리문제뿐만 아니라 많은 분야에서 다양한 문제가 발생할 것입니다. 이번 서명을 많은 분들이 보시고 생각해 볼 수 있는 시간을 가지셨으면 좋겠습니다. 모든 기술은 인간이 관리할 수 있는 선에서의 기술 개발과 적용이 되었으면 좋겠습니다.