이 글은 효율성과 공정성을 높이기 위해 도입된 알고리즘이 오히려 차별과 불평등을 낳은 사례들에 대한 전 세계적 보고들로 인해, 그리고 특히 최근 한국에서 화제가 된 챗봇 ‘이루다’의 차별 및 혐오 발언으로, 많은 주목을 받고 있는 AI의 편향(bias) 문제에 대한 하나의 접근 방법을 제시하고자 한다. 단순한 기계의 고장과 달리 블랙박스라 불리는 AI의 편향을 낳는 원인들은 복잡하게 얽혀있어서 쉽게 밝히기 어려울 뿐 아니라 편향을 줄이기 위한 기술적 접근이 오히려 다른 종류의 편향을 낳을 수 있다. 그리고 편향에 개입할 수 있는 인간들의 윤리의식을 높이기 위한 (...) 가이드라인이 제시되었으며, 알고리즘 영향평가, 감사 등의 제도들도 제시되고 있다. 하지만 AI 윤리가 오히려 윤리 세탁에 이용되고 있다는 비판이 제기된 바 있으며, 섣부른 법적 · 제도적 개입은 면죄부를 제공할 수도 있다.BR이 글은 AI의 편향에 대해 ‘역설에 대처할 수 있는 반성적 접근’이라는 다소 복잡하고 어려운 방법을 제시하고자 한다. 이 접근법은 인간의 편향에 맞서 감정을 배제하는 건조한 지성을 추구했던 노력이 ‘계몽의 자기파괴’라 불리는 역설에 이르게 된 과정, 그리고 이러한 계몽의 역설에 대처하기 위해 20세기 중후반의 철학이 계몽의 유산인 반성(Reflexion)을 사회적 차원으로 이동시켜 절차화했다는 점에 주목한다. 그리고 현대 사회의 기능체계들이 역설에 대처할 수 있는 코드, 프로그램, 반성이론 등을 마련했음에 주목한다. 이를 참조해, 필자는 다양한 인간들과 여러 제조사들의 AI가 서로 견제할 수 있는 반성적 과정과 절차를 마련할 것을 제안한다. (shrink)

하버마스/루만 논쟁의 쟁점들 중 비판이론 대 체계이론이라는 오래된 대립구도를 확인하는 것은 큰 의미가 없다. 오늘날 더 중요한 쟁점들은 두 학자가 논쟁 이후에 이룬 성과와 관련된 것이다. ‘소통적 행위’와 ‘토의’가 그런 쟁점들이다. 이 쟁점들로부터 출발해 하버마스는 소통적 행위 이론을 정립했고, 루만은 사회적 체계들의 요소를 소통으로 간주하고 행위를 자기관찰의 요소로 간주했다. 특히 소통을 일차적 개념으로 간주하고, 행위를 행위자에 대한 귀속결과로 본 루만의 작업은 행위이론 중심의 사회학 전통에 도전한 매우 생산적인 전환이었다. 그럼에도 이 전환에는 귀속 갈등이 심화될 경우에 대한 고민이 결여되어 있다. 나는 (...) 무한 귀속 갈등의 문제를 해결하기 위해서는 하버마스의 소통적 행위 개념에 들어있는 ‘이해시키기’를 주목할 필요가 있다고 본다. (shrink)

니클라스 루만의 방대한 이론적 작업은 ‘체계이론’과 ‘사회이론’으로 요약될 수 있다. 이 논문은 이 두 이론들 중 내가 루만에게 더 중요한 이론이었다고 판단하는 사회이론의 연구계획이 어떻게 수립되었고 어떤 변경 과정을 거쳤는지 살펴본다. 특히 연구 초기인 1975년에 작성된 원고로 2017년에야 출간된 『사회의 체계이론』과 1997년에 출간된 사회이론의 최종 저작 『사회의 사회』를 비교하는 국내 최초의 작업을 수행하였다. 초기에 루만은 자신의 사회이론 연구계획을 주로 일반 체계이론의 수용을 통해 달성하고자 하였다. 즉 ‘사회의 체계 이론’을 정립하려 하였다. 하지만 그 진행 과정에서 매체이론과 진화이론 등 다른 일반 이론들의 (...) 비중이 커지면서 체계이론은 다소 상대화되었고, 그것은 사회이론 저서의 제목이 ‘사회의 사회’로 변경되는 데 영향을 미쳤다. 그리고 이제 만약 우리가 사회 개념을 체계이론 중심으로 사고하지 않는다면, 그러한 상대화는 더 진척될 수 있다. 이 논문의 마지막 부분에서 나는 이러한 체계이론의 상대화를 다소 급진적으로 밀어붙이면서 사회를 체계로 간주하지 않는 사회이론의 가능성을 검토하였다. (shrink)

이 글의 목적은 딥러닝 알고리즘의 발전으로 인한 ‘문제’를 제대로 설정하는 것이다. 딥러닝의 놀라운 성과로 인해 인공 지능에 대한 대중적 관심이 높아지면서 알고리즘의 지적 ‘능력’으로 인한 ‘지배’의 문제가 관심을 모으고 있다. 이 글은 이러한 인공 ‘지능’의 문제와 ‘지배’의 문제가 현재의 문제가 아니라는 진단, 그리고 인공 ‘감정’으로 문제의 중심을 이동시키자는 제안도 적절치 않다는 판단에서 출발한다. 현재의 문제는 인간 지능과는 매우 이질적인 방식으로 일함에도 소통에 직접 영향을 미치는 기계 지능과의 ‘관계’ 문제이다. 이 관계 문제를 다루기에 적합한 개념은 기계와의 단순한 상호작용을 넘어서는 언어적 관계를 (...) 다룰 수 있는 개념이자 상대의 마음 속 내용과 무관하게 성립하는 ‘소통’ 개념이다. 에스포지토는 이중의 우연성에 따른 정보, 통지, 이해의 세 가지 선택으로 하나의 소통 단위를 규정하는 루만의 소통 개념을 참조해 ‘인공 소통’의 문제를 제시하였다. 그는 사용자와 알고리즘의 상호작용에서 사용자 자신의 관점의 이중화를 통해 일어나는 가상 우연성이 이중의 우연성을 가능하게 한다고 본다. 필자는 현재의 문제가 인공 소통의 문제로 설정되는 것에 동의하면서도, 에스포지토가 소통과 행위의 관계와 귀속 문제를 다루지 않는다는 점에 주목한다. 알고리즘에 대한 행위 귀속이 이루어지지 않는 현재의 상황에서 인공소통의 사회적 영향은 제한적이다. 그래서 인공 소통의 문제를 잘 풀기 위해서는 귀속의 문제를 다루어야 한다. (shrink)