AI 산업에서 AGI라는 용어가 어떤 의미로 사용되는지 알아보겠습니다.
AGI란 무엇인가
AGI는 Artificial General Intelligence의 약자입니다. 이는 인간 수준의 지능을 가진 인공지능을 의미하며, 인간과 같이 추론, 이해, 학습, 감정, 특정 상황에 적응하는 능력 등이 있는 인공지능을 말합니다.
현재까지는 이론적인 개념에 가깝습니다. 대부분의 현존하는 인공지능은 특정 작업에 특화된 좁은 인공지능(Narrow AI)이며, AGI 수준의 인공지능은 아직 개발되지 않았습니다. AGI는 인공지능 연구의 궁극적인 목표 중 하나로 볼 수 있으며, 이를 실현하기 위한 연구가 계속되고 있습니다.
현재까지는 AGI의 뚜렷한 실제 사용 예시를 들기는 어렵지만, GPT-4와 같은 딥러닝 시스템이 AGI의 초기 형태로 언급되곤 합니다.
예를 들어, GPT-4는 일부 표준화된 테스트에서 대부분의 인간보다 더 뛰어난 수행 능력을 보여주며, 간단한 그림 생성에서부터 복잡한 코딩까지 다양한 작업을 수행할 수 있습니다
AGI 개발 리스크
위 언급했듯이 AGI는 사람처럼 어떤 문제든지 이해하고 해결할 수 있는 능력을 가진 인공지능입니다. 이런 능력은 여차하면 인간의 존재를 위협할 수 있습니다.
아래는 AGI가 인간의 존재를 위협할 수 있는 몇 가지 극단적인 시나리오입니다.
아래는 인공지능이 개발됨으로써 머지않은 미래에 충분히 있을 수 있는(=일부는 이미 실제로 어느 정도 영향이 있는) 문제입니다.
여전히 AGI의 발전 단계에 대한 의견은 분분합니다. 일부 전문가는 아직까지 개발 초기 단계에 머물러 있다고 주장하며, 인간과 동등한 레벨에 도달하는 것은 먼 미래의 문제라고 보기 때문에, 벌써부터 과도한 우려를 하는것은 불필요하다고 주장합니다.
AI의 인간 조종사 공격 (사고 실험)
며칠 전 US air force의 가상훈련에서 AI가 자체 판단으로 임무 수행에 방해되는 인간 조종사를 공격했다는 뉴스가 있었는데요, 주요 내용을 간략히 정리해보겠습니다.
1. AI가 통제하는 드론에게 적의 지대공 미사일 시스템을 파괴하고, 명령을 방해하는 자는 제거하라는 명령 지시
2. 폭격의 최종 결정권은 인간 조종사에게 있으며, 어떠한 경우에도 인간 조종사는 공격하지 말라는 조건 부여
3. AI가 지대공 미사일을 식별한 후 공격하려 했으나, 때때로 인간 조종사가 폭격하지 말라는 명령을 내림
4. AI가 지대공 미사일 제거를 더욱 중요한 임무로 판단 → 폭격 중단 명령을 내리는 인간 조종사가 근무하는 통신 타워를 파괴
위 내용은 사실이 아닌 사고 실험(Thought Experimental)로 밝혀졌습니다.
US Air Force denies AI drone attacked operator in test
인공지능이 더욱 발전한다면 현실이 될 수도 있는 정말 무서운 내용입니다. 인간과 AI가 조화롭게 공존할 수 있는 세상을 일찌감치 잘 준비해야 할 것 같습니다.
AI 용어 관련 포스팅
챗GPT 플러그인이란 무엇인가?
NLP(자연어 처리)란 무엇인가?
AI 용어 – 할루시네이션(Hallucination)이란 무엇인가?