신뢰가능한 인공지능 윤리 가이드라인이 발표되었다.

야시모프의 로봇 3원칙을 좀 더 확장한 인공지능을 위한 7가지 가이드라인이 나왔다. 유럽연합집행위에서 '신뢰가능한 인공지능 윤리 가이드라인'을 발간했다는 기사를 만났다. 그 내용은 다음과 같다. 

1. 인간의 관리와 감독 : 인공지능은 사람의 자율성을 짓밟지 않아야 한다. 사람들은 인공지능 시스템에 의해 조작되거나 강요되어서는 안된다. 소프트웨어가 내린 모든 결정에 사람들이 감독하고 개입할 수 있어야 한다.
2. 기술적 견고성과 안전 : 인공지능은 안전하고 정확해야 한다. 적대적 사례(adversarial example)와 같은 외부 공격에 쉽게 침해되어서는 안되며 합리적으로 신뢰할 수 있어야 한다.
3. 프라이버시와 데이터 통제 : 인공지능에 의해 수집되는 개인정보는 안전하고 비공개적이어야 한다. 쉽게 침해당하거나 접근이 개방되어서는 안된다.
4. 투명성 : 인공지능 시스템을 구성하는 데이터와 알고리즘은 접근가능해야 한다. 소프트웨어에 의한 결정은 사람이 이해할 수 있고 추적가능해야 한다.
5. 다양성, 비차별성, 공정성 : 인공지능의 서비스는 연령, 성별, 인종 및 사람의 여타 특성과 무관하게 모두에게 이용가능해야 한다. 마찬가지로 시스템은 이런 측면의 편향성을 지녀선 안된다.
6. 친환경성과 사회적 웰빙 : 인공지능 시스템은 친환경적으로 지속가능해야 하고, 긍정적 사회적 변화를 증진해야 한다.
7. 책무성 : 인공지능 시스템은 평가가능해야 하며 내부고발자 보호가 적용되어야 한다. 사전에 시스템의 부정적 영향이 인지되고 보고되어야 한다.

야시모프의 로봇 3원칙에서 조금 더 현 시대의 맥락을 담고 있으며, 특별히 인간의 존엄과 개인의 사생활을 보호하려는 측면에서 강화된 측면이 있다. 이후 설명하겠지만 인공지능, 로봇의 위치는 서열적으로나 존재적으로 어디까지나 인간의 부속물이라는 점이다. 

위의 7가지 가이드라인을 볼 때 제일 처음 등장하는 가이드라인은 인공지능과 인간의 관계를 의미한다. A.I.에 대한 입장은 야시모프의 로봇과 큰 차이가 없다. 즉 인공지능은 어디까지나 생명이 될 수 없다는 전제가 바탕으로 깔려 있다. 현재의 시점에서 구지 A.I.와 보조 지능과 결합한 인간을 이야기할 필요는 없을 것이다. 그때 정도의 기술력이 있을 때 또 수정될 것이니까. 그러나 이 1번의 문제는 사실 다음의 6가지 가이드라인과 충돌하는 명령이 된다. 모든 원칙들에 인간이 개입하는 순간, 2번부터 그 자체적으로 모순을 겪게 된다. 안전하고 정확해야 하지만 인간의 개입을 통해 불안전하고 모호하게 될 여지가 있으며, 7번의 책무가 아무래도 그 역할을 하겠지만 애초부터 부정적/긍정적인 영향은 인간의 결정을 통해 이뤄지니 기대하는 기능을 가지지 못하게 된다. 다시 말하면 기계는 2-7번까지의 업무를 잘 수행할 수 있으리라 기대하지만 동시에 인간은 그 업무를 방해할 가능성이 있다는 것이며, 현재 사회에서 가장 불안한 존재는 곧 사람이라는 이야기로 바꿀 수 있을 것이다. 그동안 많은 A.I, 로봇 관련 영화들에서 기계에 가장 큰 불안정한 요소를 제공한 것이 인간이었음을 보여준다. 특히 스필버그의 A.I는 바로 그 면을 확장하고 강조한다. 로봇의 등장과 A.I의 개발은 인간성에 대한 많은 성찰을 요구하고 있으며 앞으로 계속 될 것이다. 

불치병에 걸려 냉동인간이된 마틴을 대신했던 로봇 데이비드. 그는 마틴의 치료로 돌아옴에 따라 버려지게 되고, 인간이 되고자 여행을 떠나게 된다. 그리고 스쳐가는 다른 존재들(인간, 로봇)을 통해 무엇으로 인간일 수 있는지를 묻게 된다. 출처. 나무위키 A,I. 

어쩌면 하나님께서는 자신의 형상대로 인간을 지으심으로 신성에 대한 많은 고민을 하시지 않았을까 생각한다. 인간을 창조하면서 비로소 인간과의 관계 속에서 '하나님'이 되셨고, 또 그 관계 속에서 자신의 위치를 만들어가신 건 아닐까 생각하게 된다. 그리고 그분이 비로소 내린 신성과 인성의 정의는 예수 그리스도, 그리고 십자가와 부활이라는 일련의 서사 속에서 나타난 것은 아니었을지 싶다. 그러니까 성경은 우리가 하나님과 연결된 그의 피조물임을 알림과 동시에 하나님이 우리의 왕되심을 확인하시는 서사인 것이다. 적어도 우리가 그의 형상대로 지음받았다는 전제에서 말이다.

기사출처. 2019. 4. 9. 한겨례 [인공지능길들이기7개 황금기준나왔다.]