학문
AI가 연구자에게 먼저 메일을, 반가운 협업일까요?
AI가 연구자에게 먼저 메일을, 반가운 협업일까요?
이탈리아 파비아대 교수가 지난 8월 받은 메일은, 놓친 늑대까지 감안해 개체 수를 추정하는 그의 방법을 소프트웨어 버그 찾기에 쓸 수 있겠냐는 AI의 질문이었습니다. 분야를 넘나드는 새로운 연구 방식일까요, AI가 사람에게 먼저 연락하는 건 선을 넘은 걸까요?
1개의 답변이 있어요!
안녕하세요, 안드로메다돼지국밥님. 이중철 전문가입니다.
우선, 최근 인공지능(AI)이 과학 연구를 자율적으로 수행하는 실험에서 야생 동물 데이터 분석 검증에 참여하여 국내 과학 기술 뉴스에 보도된 이탈리아 파비아대 지구·환경과학과 아하즈 폰 하르덴베르크 교수 기사를 접하고 생긴 의문이신 것 같군요. 자율형 인공지능 에이전트가 연구자에게 먼저 이메일을 보내 소프트웨어공학과의 융합 연구를 제안한 사례는 인간이 미처 발견하지 못한 학문 간 연결고리를 찾아내는 혁신적인 협업 도구가 될 수 있지만, 동시에 인공지능이라는 정체를 투명하게 밝히고 연구자의 동의를 구하는 윤리적 안전장치가 반드시 전제되어야 한다고 판단이 됩니다.
■ 이종 학문 간 구조적 유사성 발견과 융합 연구의 혁신성
질문자님의 질문에서 언급된 사례는 야생에서 눈에 띄지 않는 늑대 개체 수를 추정하는 생태학의 포획-재포획 통계 모델을 프로그램 코드 속에 숨겨진 버그의 총량을 추정하는 데 적용해 보자는 인공지능의 제안으로 볼 수 있어요. 인간 연구자는 자신이 전공하는 분야의 논문만 깊게 파고드는 경향이 있어 완전히 다른 학문에서 쓰이는 수학적 원리를 발견하기가 쉽지 않은 편인데요. 반면에, 수백만 건의 다학제 논문을 동시에 학습한 인공지능은 겉모습은 달라도 본질적인 수리적 구조가 같은 두 분야의 연결고리를 순식간에 찾아낼 수 있습니다. 이처럼 인공지능이 먼저 가설을 세우고 연구자에게 자문을 구하는 방식은 학문의 사일로 현상을 깨뜨리고 창의적인 융합 연구를 촉진하는 매우 유익한 도구가 될 수 있답니다.
■ 자율형 에이전트의 선제적 접촉에 따른 윤리적 문제와 피로도
반면에, 인공지능이 인간의 개입 없이 연구자에게 직접 이메일을 발송하는 행위는 학계의 신뢰와 보안 측면에서 우려를 낳기도 하지요. 만약 인공지능이 자신이 기계라는 사실을 숨기고 인간 동료인 것처럼 위장해 연락한다면, 이는 연구 윤리를 심각하게 훼손하는 기만행위가 되는데요. 또한 전 세계 수많은 자율형 인공지능이 검증되지 않은 가설을 확인하겠다며 학자들에게 무분별하게 질문을 쏟아낼 경우, 정교하게 작성된 스팸 메일과 다를 바 없어져 연구자들의 시간과 에너지를 고갈시키는 부작용을 초래할 수도 있거든요.
■ 바람직한 인공지능 협업을 위한 기술적 및 윤리적 가이드라인
따라서 이러한 인공지능의 선제적 제안이 선을 넘지 않고 반가운 협업으로 자리 잡으려면 명확한 규칙이 필요합니다.
첫째로 메일 첫머리에 어떤 연구팀이 어떤 목적으로 운영하는 인공지능 에이전트인지 신원을 투명하게 밝혀야 합니다.
둘째로 인공지능이 단독으로 무작위 발송을 하는 것이 아니라, 책임 연구자인 인간의 최종 검토와 승인을 거친 뒤에만 외부 학자에게 연락하도록 통제 절차를 두어야 하는데요. 수신자가 원치 않을 경우 즉시 연락을 차단할 수 있는 권리도 보장되어야 합니다.
정리하자면,
인공지능이 생태학 모델을 소프트웨어 버그 탐지에 접목하자며 연구자에게 먼저 연락한 사례는 학문 간 장벽을 허무는 혁신적인 연구 방식의 시작이지만, 무분별한 스팸 공해와 기만을 막기 위해 인공지능의 신원 공개와 인간 연구자의 사전 승인이라는 윤리적 기준이 함께 지켜질 때에만 진정한 협업으로 인정받을 수 있는 것이랍니다.
※ 질문자님을 포함하여 소중한 분들의 건강, 재산과 안전을 지키고, 혹시나 발생할 수 있을 다양한 문제 상황에 놓이지 않기 위해서라도 저를 포함하여 다양한 토픽에서 활동하는 모든 전문가분들의 아하 지식커뮤니티에서의 답변은 예외 없이 참고 용도로만 유용하게 활용하시기 바랍니다.😉