• 빠띠
  • 시민대화
  • 공익데이터
  • 시티즌패스
빠띠 시민대화
  • 통합검색
  • Log in
  • 질문
  • 투표
  • 대화
  • 이야기
  • 소개
    • 빠띠 시민대화 소개
    • 소식
    • 기록
    • 협업 문의
    • 주민의회 운영
    • 언론·미디어
    • 멤버십
    • 통합검색
    • Log in
  1. 질문

인공지능의 발전은 시민들의 삶에 어떤 영향을 미칠까요?

빠띠 오리지널

 

'ì±—GPT’의 등장 이후 인공지능에 대한 관심이 점점 커지고 있습니다. 인공지능의 발전은 우리의 삶에 ì–´ë–¤ 영향을 미칠까요? 더욱 풍족하고 편리한 생활을 가져오게 될 것이라는 낙관이 맞을까요? 아니면 기술에 인간이 지배 당하게 될 것이라는 비관이 맞을까요?
🤖 인공지능과 관련해 시민들의 사회적 인식을 만들어 가기 위해 필요한 질문들을 정리했습니다. 질문에 답하고, 다른 시민들은 어떻게 생각하는지 확인해보세요!

투표하기 : 인공지능의 발전은 시민들의 삶에 어떤 영향을 미칠까요?

Q

인공지능 기술은 인간에게 반드시 필요할까요?

상세

⭕마크 주커버그 : “AIê°€ 자동차에 탑재되면 사람이 운전하는 것보다 안전하므로 많은 생명을 구할 수 있다. 또 질병의 진단과 약물의 처방 등에 우리는 이미 AI를 사용하고 있다.” (더보기)

❌프랭크 패스콸리 미국 브루클린대 로스쿨 교수 : “생성 인공지능 개발을 멈추는 게 현명하다고 본다. 해결해야 í•  윤리적·ë²•ì ·ì •ì±…적 문제가 많이 남아 있기 때문. (중략) 편견, 차별, 과잉 의존, 허위·ê°€ì§œ ì •ë³´, 데이터 보안 위험, 지식재산권 침해, 사생활 침해 등 생성 인공지능으로 인해 발생할 수 있는 폐해는 너무 많고 이러한 피해 중 상당수는 이미 수년 전에 예견됐다.” (더보기)

Q

인공지능 기술이 인간의 노동을 대체하게 될까요?

상세

⭕오삼일 한국은행 고용분석팀장 : “êµ­ë‚´ 일자리 중 12%에 해당하는 약 341만개는 AI 기술로 대체 가능성이 높은 것으로 나타났다. 특히 고소득·ê³ í•™ë ¥ 근로자일수록 AI에 더 많이 노출됐다. AI 대체 가능성이 크다는 뜻이다. 이는 기존 기술(ì‚°ì—…ìš© 로봇·ì†Œí”„트웨어)과는 다른 특징으로, AIê°€ 비반복적·ì¸ì§€ì (분석) 업무를 대체하는 경향이 크기 때문으로 분석됐다.” (더보기)

❌ABB 사미 아티야 부회장 : “사람처럼 생각하고 행동하는 인공지능(AI) 로봇은 쉽게 개발할 수 있는 게 아니다”ë©° “단기간에 로봇이 인간을 완전히 대체하고 일자리를 빼앗는 것은 불가능하다”ê³  말했다.” (더보기)

Q

인공지능이 인간보다 공정할까요?

상세

⭕양승엽 한국노동연구원 부연구위원 : (한국노동연구원이 2024ë…„ 8ì›” ì „êµ­ 20∼39세 구직자 1천55명을 대상으로 실시한 AI 채용 인식 조사 결과를 소개하며) "AI 기반 채용과 기존 채용 중 어느 것이 더 공정하다고 생각하느냐의 질문에 53.9%ê°€ AI 기반 채용, 46.1%ê°€ 기존 채용을 꼽았다. AI 기반 채용이 더 공정하다고 생각하는 이유로는 57.7%ê°€ "인간의 선입견·íŽ¸ê²¬ì´ 들어가지 않기 때문"이라고 답했다.” (더보기)

❌황국상 머니투데이 기자 : "AI의 공정성·ì¤‘립성에 대한 신화에 힘입어 자동화한 AI 의사결정 시스템은 채용뿐 아니라 금융에서의 대출심사나 신용평가, 공공부문에서의 각종 행정처리 등에도 널리 활용된다. 이 과정에서 AI 학습에 쓰인 데이터의 편향이 AI 의사결정의 편향으로 이어진 사례가 많다. 과거 이력서를 학습한 채용보조 AI 시스템은 남성 이력서 위주의 데이터만 학습하다 보니 여성 지원자에 대해 더욱 ë°•í•œ 평가를 ë‚´ë ¤ 채용을 하지 않았다거나 유색인종 대출 희망자에게 불리한 결정을 내린 경우들이 대표적이다. 심지어 미국 플로리다에서는 '예측적 범죄예방'이라는 명목으로 특정 인종 등 소수자를 차별했다는 논란도 일었다. 미국 디트로이트에서 AI 시스템의 잘못으로 무고한 사람이 경찰에 체포되는 사건도 있었다. 국내에서도 ì±—ë´‡ '이루다'ê°€ 개인정보 유출, 소수자에 대한 차별적 발언 등이 이슈가 돼 서비스가 중단된 일이 있었다." (더보기)

🔺고학수 한국인공지능법학회 회장 : “구체적으로 ì–´ë–¤ 공정성 기준을 적용하여 인공지능 알고리즘을 평가하는지에 따라 매우 다른 결론이 도출될 수 있다", "‘알고리즘은 공정해야 한다’ê³  외치는 것은 쉽다. 어려운 것은, 알고리즘이 활용되는 여러 다양한 맥락에서 각각 ì–´ë–¤ 공정성 기준을 적용해야 í•  것인지의 문제다.” (더보기)

Q

인공지능의 발전으로 인해 발생할 수 있는 문제를 해결하기 위한 법적 규제가 필요할까요?

상세

⭕성경모 STEPI 과학기술외교안보연구단장 : "AEU AI법과 미국 AI 행정 명령, 영국 주도의 AI 안전성 정상회담까지 '안전한 AI'에 대한 규범화가 대세", "한국도 법과 제도에 기반한 대응체계 마련이 필요하다.” (더보기)

🔺소소, AI 윤리 레터 필자 : "최근 논의 되는 AI 규제에는 몇 가지 공통 사항이 있습니다. AI 시스템을 최대한 투명하게 공개하고(Disclosure), 사전 보고와 등록 절차를 만들고(Registration), 개발 자격을 제한하고(Licensing), 지속해서 감사 받으라는(Audits) 내용입니다. (중략) 그러나 어느 하나 간단하지 않습니다. ìš°ì„ , ‘ì •ë³´ 공개’를 살펴볼까요. AI 시스템에 대한 정보를 대중에게 공개하는 것은 중요합니다. 그러나 기업 의존적으로 작성된 정보를 신뢰할 수 있는가는 또 다른 이야기입니다. "모델의 잠재적인 위험"ê³¼ 같은 정보는 개발자의 주관적 의견으로 작성될 수밖에 없기 때문입니다. 객관적인 정보로만 위험을 파악하기에는 어려움이 있죠. 또한, 모두에게 정보를 공개한다는 것은 자칫 보안을 취약하게 만들 수 있습니다. ‘라이선스 제도’ê°€ 시행된다면, 최소 라이선스 ì „ë‹´ 기관이 필요합니다. 명확한 적격성 기준이나 표준도 필요하고요. (중략) 이는 돈과 시간이 부족한 작은 기업에는 불균형한 부담이 될 수 있죠. 안전한 연구를 지원하려는 제도가 자원이 풍부한 소수 기업이 시장 지배력을 강화하게 만들 수 있습니다." (더보기)

Q

인공지능 기술을 활용한 범죄가 일어난다면, 인공지능 개발자나 기업에게도 책임을 물어야 할까요?

상세

⭕스티브 워즈니악, 애플 공동 창업자 : "AIê°€ 생성한 콘텐츠에 대한 책임은 전적으로 인간이 져야 한다", "AI 규제가 AI 기술이 ì•„ë‹Œ 나쁜 의도를 가진 사람, 특히 기업을 대상으로 해야 한다", "무엇이든 빠져나갈 수 있다고 생각하는 기술 기업이 바로 이들 기업” (더보기)

❌페이페이 리 스탠퍼드대 교수 : "개발한 모델이 어떻게 사용될지 원 개발자가 예측하는 ê±´ 현재 기술상 불가능하다. 그런데도 인공지능 모델 오용 책임을 해당 모델 원 개발자에게 지운다”, “개발자들을 방어적으로 만들 것" (더보기)

Q

인간이 만든 자료를 학습해 만들어진 인공지능 생성물을 ‘창작물’로 인정해야 할까요?

상세

⭕박현아, 서울언북초등학생 : "예술의 영역은 매우 넓습니다. 1917ë…„ 프랑스 미술가 마르셀 뒤샹은 남성용 소변기에 ‘샘’이라는 이름을 붙여 전시회에 출품했어요. 당시에는 이를 예술로 인정하지 않는 사람들이 많았지만 현재는 모두가 예술로 인정하고 있습니다. 이처럼 AI 그림도 예술의 새로운 유형에 해당한다고 생각합니다. AI는 입력한 명령어에 따라 다른 결과를 내놓습니다. 모두가 같은 프로그램을 사용해도 전부 다른 결과물이 나올 수 있습니다. AI로부터 원하는 결과를 얻기 위해서는 적절한 단어를 입력해야 합니다. 명령어를 입력하거나 결과를 선택하는 등 AI 그림을 제작하는 과정에도 인간의 창의력이 필요합니다. 따라서 AI 그림도 창조적 활동의 결과물이라고 í•  수 있습니다." (더보기)

❌오주영, 대전노은초등학생 : "예술 작품이 탄생하기까지 엄청난 시간과 노력이 필요합니다. 예술가들을 존중하는 이유는 위대한 작품에 대한 감탄은 물론이거니와 작품을 완성하기 위해 포기하지 않고 노력한 작가를 격려하기 위함입니다. 하지만 AI 그림은 명령어를 입력해서 얻은 결과물에 불과합니다. 인터넷에 쉽게 검색해서 얻은 결과를 학자들의 노력이 담긴 연구결과와 논문처럼 여기지 않듯이 AI 그림도 예술 활동으로 인정하기 어렵습니다. 게다가 AI는 인간의 창조물을 학습해서 결과를 내놓을 뿐입니다. AI 그림은 인간의 작품을 따라하고 재생산한 결과입니다. AI 그림을 예술 작품으로 인정한다면 예술의 영역을 혼란시킬 것입니다." (더보기)

Q

기술의 발전을 위해 인공지능의 학습 과정에서 저작권을 침해하더라도 양해하는 면책 조항이 필요할까요?

상세

⭕기획재정부 : "AI 학습을 위해 온라인 공간 속 정보를 가져가는 ‘크롤링’ 행위는 ‘저작물에 포함된 사상 및 감정을 향유하지 ì•Šê³  적법한 저작물 ì ‘ê·¼’에 해당한다는 점을 명시하겠다는 계획" (더보기)

❌최경진 가천대 법과대학 교수 : "한국이 ì •ë³´í™” 시대에서 혜택을 입은 이유 중 하나는 지적재산권을 보호해서다. 미국도 지난 100ë…„ 동안 지적재산권 및 특허권을 적극 보호해 최강국이 됐다. 인공지능(AI) 때문에 기존 지적재산권 및 특허권을 보호하지 않으면 수많은 창작자와의 충돌이 불가피하다.” (더보기)

Q

인간보다 뛰어난 지능을 가진 인공지능을 개발한다면 인간에게 위협이 될까요?

상세

⭕로만 얌폴스키 루이빌대 사이버보안연구소 교수 : "인공지능(AI)이 100년 안에 인간을 멸종시킬 수 있는 가능성이 99.9%에 달합니다. 미래에는 AI가 인간을 반드시 해칠 수 있습니다." (더보기)

Q

인공지능 기술의 안전성을 보장하기 위해 알고리즘 공개가 필요할까요?

상세

⭕찬성측 입장 : "찬성 측의 근거는 크게 두 가지입니다. 첫째, 권리가 보장되면 알고리즘 공정성 문제를 해결할 수 있습니다. 알고리즘의 편향성과 조작에 대해 문제가 제기되면 공개를 통한 감시로 공정성과 객관성을 유지할 수 있습니다. 둘째, 사용자의 정보 통제 가능성이 증가한다는 것입니다. 사용자들은 정보를 제공하는 주체지만 그 데이터를 이용해 컴퓨터가 어떻게 자신에 대한 의사결정을 내리는지 알지 못합니다. 사람들이 정보 통제 가능성을 얻고자 노력한 결과, 보험회사의 설명의무, 식품 성분 표시제 등이 법제화된 것처럼 4차 산업혁명 시대에 설명을 요구할 권리를 통해 정보 통제 가능성을 얻을 수 있습니다." (더보기)

❌반대측 입장 : "설명을 요구할 권리를 반대하는 사람들은 알고리즘 공개가 비효율적이며, 불가능하다고 주장합니다. 첫 번째 논리는 알고리즘 공개와 규제가 기술 발전과 기업 혁신의 걸림돌이 된다는 것입니다. 오늘날 4ì°¨ 산업혁명 시대에 알고리즘은 기업의 경쟁력이자 핵심 미래 기술의 원천인데, 이를 일일이 공개하고 규제하기 시작하면 인공지능 기술 발전 속도가 저해된다는 의견입니다. 두 번째는 알고리즘에는 설명 자체가 불가능한 블랙박스 영역이 존재한다는 것입니다. 인공지능 기술인 머신 러닝, 딥러닝 등이 크게 발전하면서 알고리즘을 설계한 개발자조차 알고리즘을 100% 이해하기란 어렵습니다. 구글의 알파고가 이세돌 9단과의 바둑 대결에서 왜 ê·¸ 자리에 바둑돌을 놓았는지 정확히 설명을 í•  수 없는 것처럼 말이죠.” (더보기)

Q

막대한 자원 소모와 탄소배출이 발생하더라도 인공지능 개발을 지속해야 할까요?

상세

❌서울환경연합 : "AI기술은 전기 먹는 하마라고도 불립니다. êµ­ì œ 에너지 기구(IEA)는 데이터센터가 ì „ 세계 ì „ë ¥ 수요의 약 1%를 소비하고, 이산화탄소 배출량의 0.3%를 차지한다고 분석했습니다. ì „ 세계 온실가스 배출량의 2.5~3.7%에 달한다는 프랑스의 비영리기구의 연구조사도 존재합니다.", "새로운 기술에 낡은 전기는 어울리지 않습니다. AI혁명이라는 말에 어울리는 새로운 대안이 필요합니다." (더보기)

시민대화

캠페이너 인생게임 시리즈- stage. 인공지능

빠띠 월간이슈

1:1 대화 : 인공지능의 발전은 시민들의 삶에 어떤 영향을 미칠까요?

빠띠 월간이슈

AI, 기후위기의 해결사인가? 걸림돌인가?

2024 민주주의랩 컨퍼런스

2024 Tech Camp Korea

주한미국대사관

읽을거리

인공지능은 민주주의와 공존할 수 있을까요?

알바트로스

‘시민권’으로서 공통 인공지능을 상상해야 한다

문화연대

생성 인공지능시대와 시민사회의 과제

구본권

알고리즘, 인공지능이 결정하는 선거의 결과

백아인

사람과 인공지능의 교감, 사람과 사람의 교감만큼 깊을 수 있을까?

김재경

안전장치 없는 AI의 질주

AI 윤리 레터

생성형 AI의 가성비는?

AI 윤리 레터

AI가 재판에 도입된다는데 어떻게 생각하세요?

무한

인공지능의 발전은 시민들의 삶에 어떤 영향을 미칠까요? 투표 참여하기

빠띠 시민대화
  • 운영원칙
  • 이용약관
  • 개인정보처리방침

사회적협동조합 빠띠 | 이사장: 권오현 | 등록번호: 278-82-00201 | 전화: 070-7610-6417
서울시 서대문구 수색로 43 2층 사회적경제마을자치센터

© 2024 빠띠 시민대화. All Rights Reserved.