[2020 GGGF] 조안나 브라이슨 교수 “AI 유토피아 만드려면 우리의 관심과 노력 필요”

AI와 인간이 상생하는 유토피아적인 삶…시위 넘어 적극개입 필요

美·日·유럽 등 ‘인간 중심의 원칙안’ 수립…정부가 투명하고 공정한 사회 위해 적극 나서야

“인공지능(AI) 유토피아를 만들기 위해서 우리는 지속적으로 경계하고, 노력하고 관심을 가져야 한다.”

조안나 브라이슨 독일 베를린의 헤르티 거버넌스 스쿨 교수는 9일 ‘스몰 체인지 딥 임팩트, 앱노멀(AB-normal) 시대의 도래’라는 주제로 서울 플라자호텔에서 열린 ‘제12회 GGGF(Good Growth Global Forum)’에서 이같이 밝혔다.

브라이슨 교수는 AI 윤리 분야 권위자로, 현재 헤르티 거버넌스 스쿨에서 코로나19 항체 테스트가 사회에 어떤 영향을 미치는지에 대해 연구하고 있다.

브라이슨 교수는 “유토피아는 창의적이고 문화적인 경제를 창조해낼 수 있기를 바라는 사회”라며 “더불어 개인과 직업적인 삶에서 성취감을 발휘하는 사회로 정의할 수 있다”고 말했다.

그는 AI와 인간이 상생하는 유토피아적인 삶을 위해서 사람의 관심과 참여, 규제가 필요하다고 주장했다. 대중이 시위를 하는 것에 그치지 않고, 정부와 기관 등이 하는 일에 직접 개입하고 관심을 가져야 한다는 것이다. 더불어 이를 통해 사회가 나가야 할 공동의 방향을 설정해야 한다고 했다.

브라이슨 교수는 “시위는 일시적으로 원하는 걸 얻을 수 있지만 다른 체제와 싸우기에는 부족하다”면서 “조합이나 정부에 참여하는 일에 우리가 시간을 할애하고 노력해야 하고, 정부와 정당은 국가를 경영할 수 있는 힘이 있어야 한다”고 말했다

그러면서 기업과 정부의 관계도 긴밀하게 협업을 해야 한다고 했다. 브라이슨 교수는 “과거에 소련이나 미국이 가졌던 힘을 유럽연합(EU) 가입국도 만들었다”며 “기업도 현명한 협상을 위해 그런 모습이 필요하다”고 강조했다.

유토피아를 위해 정부의 개입과 규제는 반드시 필요하다고 강조했다. 규제는 혁신을 방해하지 않고, 혁신이 올바른 방향으로 나갈 수 있도록 길잡이를 한다는 것이다.

브라이슨 교수는 “AI는 인류와 지구의 지속가능한 안녕을 위해 사용돼야 한다”며 “AI를 기획할 때 법과 인권, 민주적 가치, 다양성 등을 판단해야 한다”고 말했다.

이어 “정부는 AI 시스템을 만드는 사람이 누구인지, 어떤 목표로 만드는지 등 모든 정보를 투명하고 책임감 있게 공개해야 한다”며 “데이터가 인간을 착취하고, AI를 만드는 사람에 따라 오용되지 않도록 해야 한다”고 덧붙였다.

그는 이처럼 규제하지 않으면 해킹이나 피싱, 감시와 자료수집, 억압 등 많은 문제가 발생할 수 있다고 경고했다. 이에 따라 현재 중국을 포함한 경제협력개발기구(OECD)와 G20 등 40개국 이상이 인간 중심(human-centered)의 AI의 원칙을 세우는 데 동의하고 서명했다고 밝혔다.

또 AI의 불공정성을 언급하며, AI가 인간을 보조할 수는 있지만 결정까지 내려서는 안 된다고 했다.

브라이슨 교수는 “기업이 AI를 채용이나 연구 등에 사용할 때 어떤 알고리즘을 사용할지는 결국 인간이 결정한다”며 “AI가 불공정한 결정을 내리지 않도록, 훌륭한 책임 규명 체계를 갖춰야 한다”고 말했다.

이어 “우리는 완벽하고 투명한 AI 세계를 만들기를 원하지만 수많은 이상형은 서로 부딪친다”면서 “공평함은 우리가 더 나은 사회를 만들기 위해 만든 개념”이라고 했다.

그러면서 브라이슨 교수는 “공평함에 대한 생각은 수없이 많이 존재하고, 서로 양립할 수 없다”며 “편견은 자연스러운 현상으로, 우리는 타깃을 정해서 공평해질 수 있도록 지속적인 개선활동을 해야 한다”고 말했다.
 

조안나 브라이슨 독일 헤르티 거버넌스 스쿨 교수가 9일 ‘제12회 GGGF(Good Growth Global Forum)’에서 온라인으로 'AI와 인간의 삶'을 주제로 강연하고 있다.[사진=유튜브 갈무리]