‘로봇 3원칙’과 ‘AI 시스템 3원칙’

공상과학(SF) 소설 작가인 아이작 아시모프가 1942년 내놓은 로봇 3원칙은 다음과 같습니다.

📌 첫째로 로봇은 인간을 다치게 해선 안 되며, 인간이 해를 입는 걸 방관해서도 안 된다.

📌 둘째로 법칙 1에 위배되지 않는 한 로봇은 인간의 명령에 복종한다.

📌 셋째로 법칙 1과 2에 위배되지 않는 한 로봇은 스스로를 보호해야 한다.

아이작 아시모프: 로봇 삼원칙
https://youtu.be/s6IYMpbd6pE

여기서 진일보해 일론 머스크는 최근 미 주지사들에게 “너무 늦기 전에 인공지능(AI) 규제 방안을 마련해야 한다”고 촉구하면서, ‘로봇 3원칙’을 한 단계 발전시킨 ‘AI 시스템 3원칙’을 나는 제안했습니다.


[The New York Times] 인공지능의 폭주 막을 3대 원칙 2017.09.12
https://www.joongang.co.kr/article/21926786

[The New York Times] 인공지능의 폭주 막을 3대 원칙

🔮 첫째로 AI 시스템 역시 이를 작동시키는 인간에게 적용되는 각종 규제를 동일하게 받아야 한다. 이 원칙은 가정과 기업·정부의 AI 시스템 모두에 적용된다.

🔮 둘째로 AI는 자신이 인간이 아님을 명백히 알려야 한다. 사람과 대화할 수준으로 진화하고 있는 컴퓨터 로봇 프로그램에서 드러났듯이 AI 시스템은 사람과 상호작용할 때 자신이 사람이 아님을 공개적으로 밝힐 필요성이 있다.

🔮 셋째로 AI 시스템은 원래 개발자의 동의 없이 기밀 정보를 공개하거나 보유할 수 없다. 정보를 자동적으로 추출·기록·분석할 수 있는 능력을 갖춘 덕에 AI 시스템은 기밀 정보를 입수하는 데 능하다.

도움이 되셨길 바라고 공감하는 분은 나가시면서 왼쪽 아래 ❤ 한번 눌러주시면 감사하겠습니다.