헌법상 인공지능 규제의 범위와 방향에 대한 시론적 고찰
= A Study on the Scope and Direction of Artificial Intelligence Regulation
- 저자[authors] 백수원(Baek, Soowon)
- 학술지명[periodical name] 美國憲法硏究
- 권호사항[Volume/Issue] Vol.29No.2[2018]
- 발행처[publisher] 미국헌법학회
- 자료유형[Document Type] 학술저널
- 수록면[Pagination] 73-104
- 언어[language] Korean
- 발행년[Publication Year] 2018
- 주제어[descriptor] 인공지능,휴먼노이드(인간유사로봇),안전,안전권,로봇권,AI(Artificial Intelligence),Humanoid,Security/Safety,Safety Right,Robot Rights
초록[abstracts]
[개인의 힘으로는 막기 어려운 새로운 기술 등에 대해서 국가는 국민의 안전을 확보하기 위한 조치를 취할 수 있다. 우리 헌법은 ‘안전’이라는 표현을 매우 여러 곳에서 사용하고 있다. 대부분의 규정은 국가의 안전보장과 관련이 있는 실정이나, 안전보장과는 구분되는 국민의 안전 확보에 관한 내용 또한 우리 헌법을 통해 확인할 수 있다. 특히 AI 개발은 새로운 위험 요인이 될 수 있기 때문에 국가의 역할이 매우 중요하다고 할 수 있으며, 사실상 AI 개발은 인간과 매우 유사한 특질을 보유한 새로운 존재를 탄생시킬 수 있다는 점에서 인간의 존엄이 위협될 수 있는 등 더욱 혼란이 예상되기 때문에 더욱 그러하다. 이러한 혼란을 방지하기 위해서는 인간 유사 로봇의 개발을 완전히 막는 방식 즉, AI 개발에 특정한 제약을 걸어 인간다움을 배제하고 인간의 보조자적 역할만을 부여하는 규제 방법을 채택할 수 있을 것이며, 반대로 인간 유사 로봇 개발을 인정하고 이들을 새로운 인류로 보아 인간과 동일 또는 유사한 법적 지위를 누리게 하는 방법도 가능할 것이다. 원천적으로 인간유사로봇의 개발을 배제하는 것은 불가능하며, 그러한 개발을 설령 배제하더라도 음성적으로나마 탄생된 인간유사로봇이 있다면 어떻게 처리할 것인지 명확한 가이드라인은 필요하다고 본다. 현재 국회에 계류 중인 로봇기본법안이나, 유럽연합 의회의 로봇관련 규칙에 따르자면 개괄적으로 로봇에 대하여 전자인간과 같은 나름의 법적 지위를 부여하고자 하는 노력도 확인할 수 있다. 따라서 뇌의 활용과 인간다움을 기준으로 강한 AI, 약한 AI로 나누어 보호받을 로봇과 규제의 대상이 되는 로봇으로 구분 짓는 방식이 적절하다고 생각한다. 다만, ‘강한 AI’와 ‘약한 AI’를 나누는 기준에 법적인 정당성을 부여하기 위해서는 인공지능의 기능적 수준을 넘어서는 인류에 대한 이해를 반영해야 한다. 또한 인간 유사 로봇을 제외한 일반적인 인공지능에 대한 규제는 상대적으로 윤리적 문제가 없기 때문에 설정이 용이하며, 따라서 일반적인 인공지능에 대한 규제와 관련해서는 윤리적 고민에서 벗어나 기본적으로 그 개발단계에서부터 인간에게 우호적인 행동을 하도록 설계되어야 한다는 ‘Friendliness theory’ 또는 인간에게 유용하고 혜택을 주는 ‘Beneficient AI 개발원칙을 탑재하는 것도 가능할 것으로 본다. 자동차와 같이 등록제로 운영되는 것이 요구될 수 있으며, 생성에서 폐기까지 국가차원의 관리와 규제의 도입이 고려될 수 있다. 살인 로봇 등 일반적 규제를 넘어선 로봇 산업에 대해서는 허가제를 실시하게 하거나, 제조사의 책임재산의 확보, 제조사 책임 강화 및 로봇소유자에 대한 필수 보험가입 등도 규제책의 일환으로 검토해 볼만하다. 인간에게 미칠 수 있는 다양한 영향력과 그 대응방안에 대하여 공개적인 논의를 이끌어낼 수 있는 전문위원회의 설립을 통해 사회적 공감대를 배경으로 규제의 방향을 설계해 나가는 것도 필요할 것으로 생각한다.
The state can take measures to ensure the safety/security of the nation, such as new technologies that are difficult to prevent by the power of the individual. The Constitution uses the word ‘safety/security’ in many places. Most regulations relate to national security. However, the contents of the people`s safety/security assurance, which is different from the national security guarantee, can also be confirmed through our Constitution. The role of the state is very important, especially since AI development can be a new risk factor. In fact, AI development is expected to be more confusing, as human dignity can be threatened by the emergence of new beings with very similar traits. In order to prevent such confusion, it is possible to adopt a method to completely prevent the development of a ‘humanoid robot’, that is, a certain restriction on AI development to exclude humanity and to give a human assistant role. On the other hand, it is possible to recognize the development of humanoid robots and see them as new human beings and enjoy the same or similar legal status as human beings. It is impossible to exclude the development of humanoid robots from the source, and even if such development is excluded, it is necessary to have clear guidelines on how to deal with humanoid robots that are produced in spite of the negative. In accordance with the basic law of the robot currently pending in the Korea National Assembly or the regulations of the European Parliament concerning robots, it is possible to confirm the general effort to give the robots their legal status such as electronic human beings. Therefore, I think that it is appropriate to divide the robot into robust AI and weak AI based on the utilization of the brain and humanity, and the robot to be protected and the robot to be regulated. However, in order to give legal justification to the criteria for dividing ‘strong AI’ and ‘weak AI’, we must reflect our understanding of humanity beyond the functional level of artificial intelligence. In addition, regulation of general artificial intelligence except for humanoid robot is easy to set because there is no ethical problem. Therefore, in relation to the regulation on general artificial intelligence, ‘Friendliness theory’ which is basically designed to be friendly to human beings from its development stage deviates from ethical worries, or ‘Beneficial AI development principle that is useful and beneficial to humans’ It is also possible. It may be required to operate as a registrar like a car, and the introduction of national controls and regulations from generation to disposal may be considered. For the robot industry beyond general regulations such as murder robots, it is necessary to conduct a license system, to secure the liability of the manufacturer, to reinforce the manufacturer responsibility and to insure the owner of the robot as a part of the regulation. I think it will be necessary to design a direction of regulation based on social consensus through the establishment of a specialized committee that can openly discuss various influences and countermeasures against human beings.]
목차[Table of content]
국문초록 Ⅰ. 서론 Ⅱ. 과학기술의 발전과 국가에 의한 안전의 보장 Ⅲ. 인공지능 규제에 관한 주요 쟁점 Ⅳ. 결론 참고문헌 Abstract