주요국 정부 및 국제기구에서 발표한 인공지능 신뢰성 원칙, 하버드버크만연구센터, 세계경제포럼 등의 메타분석 보고서 등을 종합하여 이번 연구에서 활용한 인공지능 신뢰성 구성요소를 도출했다. 다수의 정책 문건에서 보편적으로 다루는 요소를 최대한 포함시키되 구성요소 간 중복성이 없도록(mutually exclusive & collectively exhaustive) 구성요소를 도출했다.원문보러가기  인공지능의 신뢰 체계를 정립하는 정책을 마련하기 위한 첫 번째 단계는 신뢰를 결정짓는 정책 변수를 도출하는 것이다. 국민들이 인공지능의 신뢰수준을 인식할 때 구체적으로 어떤 요소를 통해 신뢰수준을 결정짓는지 확인해야 한다. 즉, 신뢰수준이 종속변수라고 한다면 이를 결정짓는 독립변수를 규명하는 작업이 필요하다.   제2장은 주요국 정부 및 국제 기구의 정책 보고서와 이들 정책 보고서를 메타 분석한 연구 논문을 분석하여 이번 연구에서 활용할 인공지능 신뢰성 구성요소를 6대 원칙, 13개 세부 항목으로 도출하였다. 앞서 언급했다시피 인공지능 신뢰성을 높이는 행위는 인공지능 개발 및 활용에 추가적인 제약요인이라는 점에서 비용이 증가하거나 성능 저하가 발생한다. 따라서 합리으로 인공지능 신뢰성 수준을 결정해야 한다. 이를 위해서는 제2장에서 도출한 인공지능 신뢰성 구성요소별 상대적 중요도, 즉 신뢰성 개선에 더욱 영향을 미치는 요소와 그렇지 않은

인공지능을 개발할 때부터 개인의 삶과 사회적 공익에 기여할 수 있도록 개발하고,인간의 존엄성과 자기결정권의 보장 및 차별받지 않을 권리 등 인권에 기반하여 활용하며,인공지능 기술로 발생할 수 있는 인권침해의 예방 및 권리구제 절차를 마련하는 것이 중요하다.이에, 국가인권위원회는 ｢국가인권위원회법｣ 제25조 제1항에 따라 인권적 관점에서 인공지능의 개발과 활용 시 준수해야 할 내용을 다음과 같이 검토하였다. 원문보러가기 

디지털 전환은 경제ㆍ사회 발전을 촉진하는 유용한 도구로 작용하지만, 자칫 부정적 영향을 미칠 수도 있는 양면성을 내포.정부는 경쟁력 및 기술 패권 확보 등을 위하여 디지털 전환 촉진정책을 적극적으로 추진하고 있는 반면, 디지털 전환의 위험에 대한 이해와 이를 방지할 수 있는 정책 추진은 상대적으로 더딘 경향.정부는 디지털 전환에 대한 이해도 제고를 통한 정책 범주 명확화, 디지털 전환의 세부 위험 파악, 대응 정책 수단 검토 및 방향 설정 등을 통해 디지털 전환 미래사회 위험 대응 방안을 마련할 필요 원문보러가기 

기계학습 기술이 적용된 의료기기(Machine Learning-enabled Medical devices, MLMD)는 기계학습 방식으로 의료용 데이터를 학습하고 특정 패턴을 인식하여 질병을 진단·예측하거나 환자에게 적합한 맞춤 치료법을 제공할 수 있다. 본 가이드라인은 기계학습 모델이 적용 된 의료기기에 대하여 기계학습 가능 의료기기(Machine Learning-enabledMedical Devices, MLMD)로 정의한다.  원문보러가기

① AI의 글로벌 경쟁이 치열해지며, 군사 및 안보적 차원의 활용이 확산함에 따라, 이제 AI는 국가 안보에 필수적인 핵심 기술로 자리매김② 지능형 반도체는 AI 시스템의 근간으로 SW, 인프라, 미래 융합기술의 성패도 결정하는 핵심(결정)적~사활적 수준의 기술로 원천기술 확보가 시급③ 자율무기 시스템은 국민의 생명과 안전에 직결되고, 유사시 국가의 존폐를 결정지을 수 있는 사활적 수준에 해당하여, 이를 방어할 수 있는 기술 및 시스템 개발·구축이 매우 시급④ 적대적 신경망은 악용 시, 사회 ㆍ 국가적 혼란을 야기하는 결정적 안보 수준에 해당되어, 긍정적 활용 확산과 악용 방어를 위한 대응책 마련 필요 원문보러가기 

미국, 유럽연합, 한국과 일본 같은 美 동맹국들 의 경제제재와 다국적기업의 러시아 내 자발적 사업 철수는 러시아의 AI 산업에 장기적으로 부정적인 영향을 끼칠 것임.러시아의 신기술 생태계는 탑-다운(top-down) 방식의 구조를 갖고 있고, 주로 정부 출자금에 의존하고 있으며, 두뇌 유출(brain-drain)이 심각한 상황임.이 때문에 러시아는 외국 회사들과의 협력에 의존하고 있었으나, 우크라이나전에 의해 상황이 더 악화될 예정임원문보러가기

In March, a largely overlooked, 90-page Government Accountability Office study revealed something interesting: This summer, the Pentagon is getting a new AI Strategy.ARTIFICIAL INTELLIGENCE DOD Should Improve Strategies, Inventory Process, and Collaboration Guidance.원문보러가기

국내에서도 인공지능 윤리기준* 등을 마련하여 AI의 윤리적 개발 및 활용을 도모하고 있으나, 교육분야의 특수성을 고려한 논의는 부족- 2020년 원격수업이 전면 실시된 이후, 교육분야에 인공지능 도입* 등디지털 전환이 본격화됨에 따라 교육계가 준수할 규범 필요 증대인공지능이 교육현장에서 안전하게 학습자의 성장을 지원할 수있도록사회적 담론 형성 및 자율규제의 촉매제로서 윤리원칙 마련 추진 원문보러가기

딥러닝 모델이 불투명하여 입력 데이터와 결과값 사이의 관계를 이해하는 것이 어렵다는 것이다. 이로 인해 딥러닝은 ‘블랙박스’ 모델로 간주되며,  이 모델이 산출한 최종 결정의 신뢰 수준에 대해 의문이 제기되고 있다. 인공지능의 편향성, 책임과 배상, 의도치 않은 행위 및 알고리즘 설명성의 부족에 대해 평균적으로 약 63% 이상이 신뢰에 부정적인 영향을 미칠 것이라고 응답함 원문 보러가기 

2030년까지 전 세계 기업 70%가 AI를 활용하고 글로벌 GDP에 연 13조 달러의 추가 성장이 예상됨(McKinsey, 2018)2035년 연간 글로벌 GDP 성장률 2배, 노동생산성 최대 40%까지 성장이 예상됨(AI 최강의 수업, 2020.11)우리나라의 경우 AI를 통한 산업혁신의 기본 조건인 개발 전문인력 확보에 있어서 부족 현상이 심각한 상황산업현장의 요구와 대학에서 양성하는 AI 전공자 간의 미스매치 해결을 위해 산업체 수요에 기반을 둔 AI 개발자 교과과정 도출 및 확산 방안에 대한 연구가 필요(능력단위요소 도출) 4개의 직무(인공지능플랫폼구축, 인공지능서비스기획, 인공지능모델링, 인공지능서비스구현)에 중요 능력단위요소를 식별  원문 보러가기 

안전성이 매우 중요한 의료분야에서 인공지능의 결과와 의료인이 내린 결과가 다를 경우 ① 인공지능 모델이 제시하는 결과를 어떻게 신뢰할 수 있는가?(신뢰성) ② 데이터의 어떤 특징을 기반으로 이 결정을 내린 것인가?(근거제시) ③ 인공지능의 결정이 맞다면, 이 모델의 의사결정 과정을 알 수 있는가?(도출과정) ④ 인공지능의 결정이 잘못되었다면, 어떻게 받아 들여야 하나?(의사결정 시 반영 방법)의 문제가 발생됨 원문보러가기

인공지능 활용·성과 창출 및 권역간 협업 기반 全지역 본격확산 (지역 주도 강화) 지자체 주도로 지역의 인공지능 역량을 향상시키고주력산업 혁신을 촉진할 지역수요 기반의 대규모 과제 기획·추진 (뉴딜·권역 연계) 지자체별로 분절적 소규모로 추진 중인 인공지능 정책 뉴딜사업*을 권역 내 연계 대형화(중복방지)를 통해 성과 극대화 * 충북(’19.6), 대전(’19.8), 광주(’20.1), 부산/세종(’20.2), 울산/경북(’20.4) 등 7개 시·도에서 발표(부처 협업) 관계부처와 함께 기존사업 성과활용, 공동추진, 제도개선협력 * (예) 물류(국토･해수부), 제조(산업･중기부), 보건･의료 데이터 활용(복지부) 등원문보러가기  

벤치마크 데이터셋은 공통된 기준으로 인공지능 정확도를 평가하고 경쟁할 수 있는 기반이며, 인공지능 발전에 핵심 역할을 담당하고 있음우리나라에 특화된 분야의 인공지능 서비스(한국어 음성 인식 등) 수준 향상을 위해 벤치마크 데이터셋을 구축하여 경쟁·협력을 통한 인공지능 성능향상 체계를 구축하는 것이 중요함 원문보러가기

본 연구의 내용은 상기 7대 인공지능 융합산업 분야의 전 세계 관련 기술·산업 현황, 주요 기업, 국내외 주요 사례 등으로 구성된다. 그리고 이 같은 조사 결과는 7대 인공지능 융합산업의 분야별 정부의 사업 과제를 도출하고 제안해 2020년~2023년 정부 사업 기획의 기초 자료로서 활용 여지를 지닌다고 할 수 있다원문보러가기