지능 폭발: AI의 발전 속도를 세상이 따라가지 못한다면

평소라면 5년이 걸릴 혁신이 몇 달 만에 일어난다고 생각해 보십시오.

그다음 혁신은 이보다 더 빨리 일어난다고 상상해 보십시오.

AI 연구자 22명이 참여한 새 논문은 이 가능성을 살펴봅니다. AI가 AI 개발 업무를 더 많이 맡게 되면, 성능이 향상된 시스템이 다음 세대의 더 강력한 시스템을 만드는 데 기여할 수 있습니다. 연구진은 이처럼 발전 속도가 빨라지는 현상을 ‘지능 폭발’이라고 부릅니다.

그로 인한 혜택은 클 수 있습니다. 과학적 발견과 새로운 기술이 예상보다 수년 앞당겨질 수 있기 때문입니다.

하지만 속도가 달라지면 위험도 달라집니다.

기업은 진행 중인 전환을 마치기도 전에 일하는 방식을 다시 설계해야 할 수 있습니다. 근로자가 새로운 직무로 옮겨갈 시간도 줄어들 수 있습니다. 사이버·생물학적 위협은 관련 기관이 대응하는 속도보다 빠르게 커질 수 있습니다. 한 기업이나 국가의 작은 기술적 우위가 심각한 권력 불균형으로 이어질 수도 있습니다.

논문은 이런 결과가 반드시 일어난다고 단정하지 않습니다. 근거는 아직 초기 단계이며, 발전을 크게 늦추는 장애물이 나타날 가능성도 있습니다.

그렇다고 경영진이 답해야 할 질문까지 사라지는 것은 아닙니다.

대부분의 조직은 연간 계획과 분기별 검토를 거쳐 중요한 결정을 내리고, 이를 실행하는 데 수년을 씁니다. AI의 발전으로 수년에 걸릴 변화가 갑자기 몇 달 만에 일어난다면, 조직의 대응에 걸리는 시간 자체가 위험이 됩니다.

지금 해야 할 일은 변화의 속도가 우리의 이해·판단·실행 능력을 앞지를 수 있는 지점을 찾는 것입니다. 대응 능력을 강화할 시간이 남아 있을 때 시작해야 합니다.

경영진에게는 당장 실행할 과제가 있습니다.

AI의 발전이 조직의 대응 능력을 넘어설 수 있는 지점을 확인하십시오. 기존 가정이 달라지고 있다는 근거를 살피십시오. 누가 언제 행동할 수 있는지, 위험이 큰 활동은 언제 중단해야 하는지 미리 정하십시오.

지능 폭발이 언제 일어날지 정확하게 예측할 수는 없습니다. 그러나 의사결정에 쓸 수 있는 시간이 크게 줄어드는 상황에 우리 조직이 대비돼 있는지는 점검할 수 있습니다.

여러분의 조직에서는 어떤 결정이 너무 늦어지겠습니까?

출처: Cambridge Programme on AI Science & Policy, What if automating AI R&D triggers an intelligence explosion?

https://lnkd.in/gQ4Md2zR