인공지능이 자율성을 가진 존재일 수 있는가? 자율성은 책임과 권리같은 관념의 선결 조건으로 오늘의 사회에서 ‘인공지능이 해내는 일’에 연관된 책임과 공헌을 배분하는 데 적용할 규범의 이론적 기반이 된다는 점에서 이 물음은 현실적으로 중요하다. 공학의 ‘자율적 에이전트’ 개념은 현행의 철학적 논의에도 영향을 미치며, 공학과 철학의 자율성 개념 간의 관계가 명료하게 인식되지 못한 까닭에 야기될 혼란의 개연성이 실재한다. 이런 현실의 문제 상황을 의식하면서, 이 논문은 앞의 물음을 가능성에 관한 물음과 정당성에 관한 물음으로 분석하고, 인공지능의 자율성에 관한 전망을 검토한다. 논의의 과정에서 ‘X가 자율성을 가진다’는 (...) 의미를 규명해야 할 필요가 확인되고, 논문은 루소와 칸트와 크리스만의 논의를 활용하여 자율성의 개념을 고찰한다. 그렇게 분석한 자율성의 개념을 인공지능의 속성에 적용해 볼 때, 칸트가 정립한 자율성 개념에 비추어 인공지능은 자율적 존재일 수 없으며, 크리스만의 서술에서 부각된 자율적 존재의 핵심 속성을 고려할 때 인공지능이나 그것으로 작동하는 로보틱 시스템이 자율성을 지니도록 하는 것은 부적절한 위험을 허용한다는 점에서 옳지 않음이 드러난다. (shrink)

인공지능 칩을 뇌에 장착함으로써 인간의 인지능력을 향상시킬 수 있을까? 이런 향상이 실현될 수 있으려면 어떤 조건이 충족되어야 하는가? 이 논문은 인공지능이 인간 인지체계의 일부로 작동할 수 있을 조건을 따짐으로써 인공지능을 활용하여 인지능력을 향상하는 일을 전망하는 데 일조하려 한다. 이 일을 위하여 이 논문은 중앙신경체계에 연결되어 생각대로 움직이는 의수의 경우, 뇌에 알파고 칩을 장착하고 바둑을 두는 사람의 경우, 그리고 외국어 통 · 번역 인공지능을 작동하는 칩을 두개골 안에 이식한 사람의 경우를 차례로 검토한다. 생체공학 의수는 인공지능으로 사람이 더 똑똑해지는 경우는 아니지만 인공지능이 (...) 인지체계의 작동을 보완하는 실질적인 활용의 가능성을 함축하고 있다. 뇌 안에 이식된 알파고 칩에 관한 검토는 모종의 확률이 개입하는 인지능력 향상이 가능하다는 결론에 도달하지만, 그 과정에서 결정과 제어의 주체에 관한 물음을 촉발하고 이로 인해 ‘인간이 인공지능을 활용한다’는 구조를 재고하게 한다. 통 · 번역 인공지능의 경우에 대한 검토는 이 기술을 활용할 수 있게 할 특정 방식을 전망하게 하지만, 그 방식은 그 사람의 인지능력 자체를 향상하는 것이 아니다. 인간의 뇌가 언어의 의미를 어떻게 처리하는지 해명되기 전까지는 통 · 번역 인공지능을 인간 인지체계의 일부로 활용하는 일이 불가능할 것이다. (shrink)

이 논문은 인공지능의 존재론적 지위를 평가하기 위한 두 개의 물음을 던진다. 하나는 인공지능이 개념을 가질 수 있는가 하는 물음이고, 다른 하나는 인공지능이 행위의 능력을 가졌는가 하는 물음이다. 개념 능력은 인공지능이 통상적인 언어의 형태로 주어지는 명령이나 정보를 능동적으로 이해하고 그것의 작동에 반영할 수 있기 위한 필요조건이다. 최근 인공지능 기술은 영상자료에서 비지도 학습의 방식으로 특정 범주의 사물을 식별해내는 성과를 거뒀지만, 이런 식별의 능력은 개념 능력의 필요조건도 충분조건도 아니다. 인공지능이 우리와 같은 개념을 가지도록 하는 것은 인간 사회의 언어 관행을 고스란히 학습시키는 방식으로 가능할 (...) 것인데, 이것은 불가능하지는 않지만 사실상 완결되기 어려운 목표다. 한편, 행위 능력에 대한 평가는 인공지능 프로그램이나 지능형 로봇 같은 인공물을 모종의 책임과 권리를 지닌 행위 주체로 간주할 수 있는가 하는 물음을 다루기 위한 열쇠다. 행위는 행위 주체와 환경 간의 상호작용으로, 행위의 실현에는 환경 속 대상에 대한 지각과 그것에 관한 동작의 협응, 달리 말하자면 감수자 체계와 행위자 체계의 통합이 필수적이다. 그리고 이러한 협응이나 통합의 배후에는 행위를 낳는 의도를 가지고 협응을 조율하는 존재, 즉 자아가 있다. 행위는 감수자 체계와 행위자 체계의 협응을 통해 자아의 의도를 실현하는 과정이다. 인공물의 작동이 이런 조건을 충족한다고 볼 이유는 아직 없다. 결국, 두 물음에 대한 이 논문의 대답은 부정적이거나 기껏해야 유보적이다. (shrink)

서비스 로봇이나 자율주행자동차처럼 현실의 공간에서 작동하는 기계가 임무를 성공적으로 수행하기 위하여 갖추어야 할 조건은 그것이 처한 환경의 상태를 파악하는 능력, 곧 지각의 능력이다. 이 논문은 이런 기계 지각, 특히 인간을 대행하도록 의도된 기계의 지각이 충족해야 할 조건들을 검토한다. 이러한 시도는 오늘의 사회가 집단적으로 추진하고 있는 공학 프로젝트에서 기술의 지향점을 환기시키면서 그것을 향한 실천을 구체화하는 논의라는 의미를 지닌다. 공학윤리의 원칙에 명시된 최우선의 가치를 고려할 때, 인간을 대행할 인공물은 우리가 아는 범위에서 가장 안전한 방식으로 구성되어야 하고, 이를 위하여 기계 시각을 비롯한 인공물의 (...) 지각은 일차적으로 그것이 대행할 인간의 지각을 닮은 결과를 산출하도록 설계, 제작되어야 한다. 인간의 지각은 자연의 역사가 부여한 여러 흥미로운 속성들을 가지고 있다. 특히 이 논문은 지각의 대상을 개념적 범주들을 적용해 판별하는 방식, 지각에 나타나는 다양한 항등성의 측면들, 인간의 지각에 나타나는 행지주의적 특성에 주목한다. 이 세 요소는 자율주행자동차를 비롯하여 이 논문이 고려한 적용의 영역들에서 모두 뚜렷한 유관성을 드러낸다. 이로부터, 이런 똑똑한 인공물을 설계, 제작하는 과정에서 인간 지각의 이러한 속성들이 실현되거나 아니면 적어도 실질적인 손실 없이 대체되는지를 살펴야 한다는 당위가 도출된다. (shrink)