2024년 기술영향평가 결과(안)개요
(정의) 인류의 보편적 규범 가치에 부합하고 법적 요구사항에 충실하며 기술적으로 안전하고 견고한 신뢰할 수 있는 인공지능 기술 * 국가전략기술 「인공지능」 임무 중심 전략로드맵(2023.10.31.)
* 국가전략기술 「인공지능」 임무 중심 전략로드맵(2023.10.31.)
(선정 사유) AI 지속적인 발전과 역기능 문제를 최소화하기 위해, 결론 도출 과정 등에 대한 신뢰성 확보를 위한 설명가능한 기술에 대한 논의 필요
기술영향평가의 주요내용
언론보도 이슈 트렌드 분석
- (언론보도 양적 추이) ChatGPT가 최초 발표된 2022년(11월 30일) 이후 ’23년에는 약 5,300건의 뉴스가 보도됐으며, ’24년말에는 연간 6,000건을 상회할 것으로 예측
- (이슈 흐름) 챗봇 ‘이루다’ 이후 개인정보 보호 및 정부 정책 중심으로의 전개에서 ChatGPT 등장 이후 안전·신뢰·윤리와 기업 중심 이슈로 전환
- (키워드 트렌드) '개인정보'는 가장 높은 빈도로 나타나는 키워드로, 연평균 증가량도 28%로 높아 2019년부터 '개인정보'와 '보안'과 관련된 언론의 관심이 지속적으로 증가
- (키워드 이슈 분석) '인공지능 안전 및 신뢰를 위한 기술 투자 및 연구(43.4%)'에 대한 보도의 비중이 높았으며, AI 기술을 활용한 서비스의 개인정보 유출과 정보보안의 중요성을 다루는 기사도 지배적
SNS에 나타난 이슈 트렌드
- (헬스케어 AI 안전·신뢰) 인공지능 활용 헬스케어 기술에 대한 대중의 반응은 중립적인 것으로 나타나며, 책에서 보던 '기술'과 '미래'가 앞으로 다가온 것에 감탄하며, '기술 발전' 속도에 감명하는 긍정적인 의견도 나타남
- (휴머노이드 AI 안전·신뢰) '휴머노이드' 안전ㆍ신뢰와 관련된 조회 수 상위의 유튜브 댓글을 분석한 결과, 영화적 이미지와 맞물려 부정적 감성이 지배적
- (브레인 AI 안전·신뢰) '브레인' 안전ㆍ신뢰와 관련된 조회 수 상위의 유튜브 댓글을 분석한 결과, 일반 대중은 마비 환자에게 희망을 줄 것이라는 기대도 있으나, 뇌를 해킹하고 개인을 조종, 통제할 것이라는 우려도 보임
시민포럼의 기대와 우려
- (헬스케어 AI 안전·신뢰) 건강관리의 서비스 질 향상으로 인한 건강한 삶의 연장 기대, 개인정보 유출 관련 문제와 사회적 격차에 대한 우려
- (휴머노이드 AI 안전·신뢰) 창의적이고 생산적인 일에 집중 가능 기대, 다양한 사회적 문제 및 HW/SW 오류로 인한 피해 우려
- (브레인 AI 안전·신뢰) 획기적인 치료 개발에 기여 및 사회적 발전 기대, 프라이버시 침해 및 사회적 격차, 정체성 혼란 야기
전문가 심층분석 이슈
- (헬스케어 AI 안전·신뢰) 데이터 신뢰 및 책임소재 이슈, 개인정보 및 격차 등 사회적 문제 이슈, 과의존
- (휴머노이드 AI 안전·신뢰) 물리적 안전 이슈, 프라이버시 이슈, 인간과의 상호작용
- (브레인 AI 안전·신뢰) 디코딩과 기억 왜곡 이슈, 인지능력 증강 관련 사회적 문제, 중독 및 과의존
주요 이슈 및 과제 도출
- (주요 이슈) 총 81개(시민 22개 + 전문가 59개)의 세부 이슈를 분석하여 공통 이슈 6개, 기술별 특화 이슈 8개 등 14개 주요 이슈를 도출
- (주요 과제) 총 120개(시민 22개 + 전문가 78개)의 세부 이슈를 분석하여 공통 과제 8개, 기술별 특화 과제 9개 등 17개 주요 과제를 도출
정책 핵심 이슈 및 과제 도출
핵심 이슈
- (핵심 이슈) 개인정보 위험, 사고/오류 책임소재, 인간자율성/사회성 악화, 휴머노이드 일자리/사회변화, BCI 중독/의존
- (핵심 과제) 미래기술 안전성 기본법, 인간친화 기술 윤리안전 가이드라인, 민감정보 기반 기술 거버넌스, 미래기술 안전성 R&D, 헬스케어AI 임상 안전제도,
충청북도 음성군 맹동면 원중로 1339 (우:27740) | 대표전화:043-750-2300
한국과학기술기획평가원에서 운영하는 모든 사이트의 콘텐츠는 저작권의 보호를 받는 바 무단전재, 복사, 배포 등을 금합니다.
COPYRIGHT(C) K2BASE. ALL RIGHTS RESERVED.