노동당, 2023 사회주의 대회, <세션3 : 주제1 인공지능(AI)> 진행!

- 인공지능 알고리즘, 인간의 편향·차별보다 위험할 수 있어

- 인공지능의 판단, 받아들일 수 있을까?

- 인공지능은 인권과 민주주의를 어떻게 위협해 왔나?

- 안전과 인권이 침해되지 않는 방안은?

노동당이 ‘2023 사회주의 대회 둘째 날인 11월 26일(일) 오전 10시 30분 ~ 오후 12시 30분까지 서울 국제청소년센터 유스호스텔(서울 강서구 금낭화로 234 국제청소년센터)에서 인공지능(AI) 세션이 진행된다고 밝혔다.

노동당은, ‘2023 사회주의 대회 <세션3 : 주제1 인공지능(AI)>에 대해 다음과 같이 소개했다.

○ 인공지능이 자신을 재범 가능성이 있다고 판단하며 그 이유를 설명하지 않아도 받아들일 수 있을까요?

기업은 기술 발전을 위해 인공지능에 대한 규제 유예를 말합니다.

그러나 인공지능의 사용자와 그 영향을 받는 사람은 다릅니다. 즉 영향을 받는 사람은 인공지능을 통제할 수 없기 때문에 인공지능을 어떻게 규제할 것인가는 국제적 이슈로 자리하고 있습니다.

이에 따라, 2023 사회주의 대회에서는 인공지능의 위험성을 파악하고 이를 규제하는 방안에 대해 논의해 보고자 합니다.

강연을 맡은 오병일 진보네트워크센터 대표는 “모든 상품은 그 안전성이 검증되기 이전에 시장에 출시돼서는 안 된다”라며 이는 “인공지능도 예외가 아니”라고 지적합니다.

○ 인공지능이 선호되는 이유 중에는 사람보다 공정하다는 인식이 있습니다.

그러나, 학습 데이터를 통해 학습하는 인공지능 역시 편향적일 수밖에 없습니다.

실제로 지난 2019년 미국 국립표준기술원(NIST)은 189개 안면인식 인공지능을 분석했는데, 흑인 및 아시아계에 대한 오류 비율이 백인보다 10배~100배 높다는 결과가 도출된 바 있습니다.

이러한 편향적인 기술을 수사기관이 사용한다면 어떤 일이 벌어질까요. 지난 2020년 1월 미시간주 디트로이트에서는 안면인식 인공지능이 무고한 흑인 시민을 범인으로 지목해, 경찰이 체포하는 사건이 있기도 했습니다.

앞선 분석에서는 여성의 인식 비율이 남성보다 더 낮다는 결과가 나오기도 했습니다.

○ 또 다른 문제는, 인공지능이 불투명하다는 점입니다.

2011년 미국 휴스턴에서는 교육 당국이 교사의 수업 성취도 평가를 위해 민간업체의 독점 알고리즘에 기반한 프로그램을 도입했다가 논란이 된 바 있습니다.

해당 프로그램은 학생의 이전 표준화 시험 성적을 사용해 당해 연도의 학업 성장을 예측하는 통계적 방법을 사용했습니다. 교사 평가, 보너스 및 해고에 관한 결정을 내리는 데 활용됐지만, 교사들은 이 결정에 대해 이의를 제기할 수도 왜 해고됐는지 설명을 들을 수도 없었다고 합니다.

○ 심지어 민간에는 그 규제의 정도가 덜합니다. 이에 따라 기업이 사회의 민주주의를 위협할 수도 있습니다.

영국의 정치 컨설팅 회사 케임브리지 애널리티카는 동의 없이 수집된 방대한 양의 페이스북 사용자 개인정보를 활용해 선거에 개입한 것이 2018년 폭로돼 논란이 됐습니다.

○ 배달 노동 등 플랫폼 노동자들에 대한 알고리즘 통제는 또 어떨까요.

기업은 자신이 원할 때 일할 수 있는 노동자를 찾을 수 있지만, 노동자들은 일하고 싶을 때 일할 수 없습니다.

일감을 받기 위해 대기하는 시간 역시 보상받을 수 없습니다. 플랫폼은 어떤 기준에 따라 알고리즘을 설계하게 되는데, 노동자들은 알지 못하는 알고리즘으로 차별받을 수도 있다는 문제가 있습니다.

이러한 인공지능이 업무관리 프로그램에 사용될 수 있다는 점을 고려하면, 플랫폼 노동자들에게만 해당하는 얘기도 아니게 됩니다.

○ 이미 전 세계에서는 인공지능 규제를 위한 논의가 활발하게 이뤄지고 있습니다. 한국도 올해 초 국회 과학기술정보방송통신위원회의 법안심사소위에서 '인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안'이 의결된 바 있습니다.

그러나 이 법안은 사업자의 구체적 의무나 처벌 조항을 포함하지 않고 있어, 시민사회단체들은 반대 운동을 전개하고 있는 상황입니다.

○ 전 세계적 인공지능 규제 논의에 발맞춰, 노동당도 이번 2023 사회주의 대회를 통해 새로운 혁신 기술로 포장된 인공지능이 인권과 민주주의를 어떻게 위협하고, 빅테크의 독점을 강화하는지 살펴보고자 합니다.

그리고, 이와 같은 인공지능의 위험을 누가, 어떻게 통제해야 하는지 국내외 제도화 흐름을 살펴보며 인공지능의 영향을 받는 사람들의 안전과 인권이 침해되지 않는 방안을 논의해 보고자 합니다.

○ 참고로 해당 3세션은, 한국 사회의 시대적 과제들을 다루는 강연들로 기획됐으며, 같은 시간대에 세 가지 강연이 동시에 진행됩니다.

세부적으로 인공지능 통제 방안을 비롯해 저출생·고령사회, 자유민주주의·신자유주의에서 자유를 탈환하기 위한 전략 등을 주제로 강연이 열립니다.