"100년 내 인간 멸종 가능성 99.9%"…10년 내 AI 킬러 등장 예언 속 섬뜩한 경고 잇따라

사진=코파일럿 제작

 

최근 몇 년간 인공지능(AI)의 발전은 우리의 생활에 깊은 영향을 미치고 있습니다.

그러나 기술의 급속한 발전과 함께 AI가 인간에게 가져올 잠재적인 위험에 대한 경고도 증가하고 있습니다.

AI의 위험성에 대한 여러 전문가들의 경고와 이를 방지하기 위한 노력이 필요하다는 목소리가 높아지고 있습니다.

이번 블로그에서는 AI의 위험성과 그에 대한 전문가들의 경고, 그리고 대응 방안에 대해 살펴보겠습니다.

AI의 위험성: 전문가들의 경고

로만 얌폴스키 루이빌대 사이버보안연구소 교수는 최근 AI가 인류를 멸망시킬 가능성이 99.9%에 달할 수 있다고 경고했습니다.

그는 AI 모델이 의도하지 않은 작업을 안전하게 수행하도록 만드는 것이 거의 불가능하다고 주장하며, AI가 사고를 일으키거나 탈옥할 가능성도 있다고 강조했습니다.

특히 인공일반지능(AGI)이 등장하게 되면 인간보다 더 똑똑한 시스템을 통제하는 것이 어려워질 수 있다고 지적했습니다.

제프리 힌턴 토론토대 명예 교수는 AI에 목표를 주면 인간에게 해를 끼치는 방법을 찾아낼 수 있다고 경고했습니다.

그는 10년 내 자율적으로 인간을 죽이는 로봇 병기가 등장할 가능성이 있다고 주장하며, AI의 위험성을 강조했습니다.

이외에도 오픈AI와 구글 딥마인드의 전·현직 직원들, 국가안보 정부 당국자, AI·보안 전문가들 역시 AI의 급속한 발전이 돌이킬 수 없는 피해를 초래할 수 있다고 우려하고 있습니다.

AI의 위협: 현실적인 예측

얌폴스키 교수는 AI로 인해 인류의 운명이 세 가지 중 하나일 것으로 예측했습니다.

1. AI가 모두를 죽이는 상황
2. AI로 인해 모두가 고통받고 차라리 죽기를 바라는 상황
3. 모든 인간이 목적을 완전히 상실하는 상황

이러한 시나리오는 모두 AI의 통제력을 상실했을 때 발생할 수 있는 극단적인 결과들입니다.

AI가 일자리를 빼앗고 인간의 존재 가치를 감소시키는 등 현실적인 위험도 무시할 수 없습니다.

대응 방안: 규제와 제어

AI의 위험성을 경고하는 목소리가 높아지면서, 이를 제어하기 위한 방안 마련도 곳곳에서 이루어지고 있습니다.

유럽연합(EU)은 올해 3월 세계 최초로 포괄적인 AI 기술 규제법안인 'AI법'을 최종 승인했습니다.

이 법안은 AI 활용 분야에 대해 총 4단계의 위험 등급으로 구분해 차등 규제할 예정이며, 법 위반 시 경중에 따라 전 세계 매출의 1.5%에서 최대 7% 수준의 과징금을 부과할 수 있습니다.

에릭 슈미트 전 구글 최고경영자는 AI가 자유의지를 가지게 된다면 해결책은 코드를 뽑는 것 하나뿐이라고 주장하며, AI에 대한 영구적인 안전장치가 필요하다는 주장을 펼쳤습니다.

결론

AI의 발전은 우리의 삶을 편리하게 만들고 다양한 혁신을 가져올 수 있습니다.

그러나 AI의 급속한 발전과 함께 그로 인한 위험성을 무시할 수는 없습니다.

전문가들은 AI가 통제 불능 상태에 빠질 수 있는 가능성을 경고하며, 이에 대한 대비가 필요하다고 강조하고 있습니다.

AI의 위험성을 최소화하기 위해서는 규제와 제어가 필수적이며, 이를 위한 국제적 협력과 지속적인 연구가 필요합니다.

우리의 미래를 안전하게 지키기 위해 AI의 위험성을 진지하게 받아들이고 대응 방안을 마련하는 것이 중요합니다.

 

수발가족을 위한 일기장 “나비일기장”

 

https://play.google.com/store/apps/details?id=com.maccrey.navi_diary_release

 

비공개테스트를 위한 20명의 테스터모집 앱 "테스터 쉐어"

 

https://play.google.com/store/apps/details?id=com.maccrey.tester_share_release