롤스로이스(Rolls-Royce)는 미래 세계의 건강과 안녕 및 성장을 지원하기 위해 인공지능(artificial intelligence)의 윤리 및 신뢰성에 관련해 획기적인 성과를 발표했다.
롤스로이스의 포괄적인 윤리 체계와 신뢰성 프로세스는 롤스로이스 웹사이트에서 무료로 다운로드할 수 있다. 이 틀을 완전하게 구현하고, 견제와 균형을 따르는 기업들은 자사의 AI 프로젝트의 공정성과 신뢰성은 물론, 윤리적 측면에서도 확신을 얻을 수 있다.
이 도구모음은 신뢰와 진실의 폭로를 상징하는 그리스 여신의 이름을 따서 알레테이아 프레임워크(The Aletheia FrameworkTM)로 명명되었으며, 광범위하게 사용되는 AI에 대한 장벽 중 하나인 불신을 해소하는데 도움이 될 것으로 기대되고 있다.
지난 9월, 이러한 혁신을 발표했던 롤스로이스의 CEO 워런 이스트(Warren East)는 “오늘 공개된 이 도구모음이 AI의 분수령이 되기를 바란다. 디지털 세상으로의 전환이 보다 빠르게 전개됨에 따라, 사람들은 AI가 윤리적으로 사용되고, 인간과 사회를 위한 신뢰할 수 있는 파트너로 기대할 권리가 있다.” 며, “알레테이아 프레임워크는 이를 위한 토대를 제공한다. 이제 비즈니스 리더들과 학자, 기술자, 심지어 철학자들까지도 이제 단순히 AI의 잠재력을 논하는 대신, 미래 세계의 건강과 안녕, 성장을 위해 어떠한 이점을 제공할 수 있는지에 주목해야 한다.”고 언급했다.
이와 함께 워런 이스트 CEO는 “롤스로이스는 이러한 목적 하에 이 서비스를 누구나 접할 수 있도록 무료로 제공하기로 결정했다. 우리는 광범위한 애플리케이션을 지원하기 위해 관심 있는 기업들과 파트너십을 구축하여 모두가 AI에 대한 신뢰성을 쌓을 수 있도록 노력할 것이다.”고 밝혔다.
알레테이아 프레임워크는 기업들이 AI 실행을 결정하기 전에 AI 사용으로 인한 영향을 고려할 수 있게 하는 점검 목록이다. 이는 사회적 영향과 거버넌스, 신뢰, 투명성과 관련된 총 32가지의 측면을 살펴보고, 경영진과 이사회가 이러한 사항들을 엄격하게 고려했는지 여부를 입증하도록 요구하고 있다.
AI가 적용되면, 이 프레임워크는 5단계의 연속 자동화된 점검 프로세스를 제공한다. 이러한 프로세스가 포괄적으로 적용되면, AI의 결정을 추적하여 AI의 편향성이나 오동작을 감지하고, 사람이 개입하여 이를 통제하고 수정할 수 있도록 해준다.
롤스로이스의 데이터 혁신 팀인 R2 데이터랩(R2 Data Labs)의 그룹 디렉터인 캐롤라인 고르스키(Caroline Gorski)는 “롤스로이스는 세계적인 산업기술 분야의 선도 기업으로, 수십 년간 AI를 활용하여 우리 제트 엔진의 26차원에 걸친 70조개 이상의 데이터 포인트를 분석해 비행시간을 늘리고, 지속 가능성을 향상시킬 수 있었다.”며, “현재 우리는 중요 구성부품에 대한 품질 검사를 위해 AI를 개발하고 있으며, 이러한 작업에 AI 기술을 적용하는 것이 정당하고, 올바른 일이며, 신뢰할 수 있는 것인지 확인하기 위해 자체적으로 도전과제를 수행하게 되었다.”고 설명했다.
또한 캐롤라인 고르스키는 “데이터에 이러한 안전 원칙을 적용하게 된 것은 롤스로이스 비즈니스의 핵심인 안전우선 문화에서 기인한 것이다. 우리는 알레테이아 프레임워크를 모든 사람들과 공유하고, 이것이 우리 세계에 가져올 이점에 대해 상호 협력할 수 있기를 바란다.”고 피력했다.
AI에 대한 글로벌 논의의 장을 만드는데 잠재적으로 상당한 기여를 할 것으로 예상되는 알레테이아 프레임워크는 AI 윤리와 관련해 글로벌 컨설테이션을 수행하고 있는 유네스코(UNESCO)의 전문가들과 이미 공유했다.
유네스코 사회인문과학 부문 사무총장보 가브리엘라 라모스(Gabriela Ramos)는 “유네스코는 초기 교류 과정에서 알레테이아 프레임워크를 공유하고, 인간 중심의 AI를 위한 권장사항을 개발하기 위해 전세계 전문가들과 협력하고 있다.”며, “AI는 우리의 세상을 근본적으로 변화시키겠지만, 어떠한 형태가 될 것인지는 윤리가 결정하게 될 것이다. 공적이든 사적이든, 모든 이해관계자들이 함께 협력해야 한다.”고 밝혔다.
알레테이아 프레임워크는 방대한 검토작업을 거쳤으며, 이 과정에서 잠재력이 확인됐다.
롤스로이스의 서비스 무결성 책임자인 리 글래지어(Lee Glazier)는 “빅테크, 헬스케어, 제약, 학계 및 정부의 전문가들과 협력하여 진행된 안전 점검 과정에서 다른 기업들보다 우리가 훨씬 발전된 체계를 갖추고 있다는 것이 확인되었다.”며, “또한 현재 알레테이아 프레임워크는 우리의 산업용 영역을 넘어 컨수머 애플리케이션 및 헬스케어, 채용 및 보안 등 기본적으로 AI를 사용하는 모든 애플리케이션에 적용이 가능하다는 것도 분명해졌다.”고 설명했다.
알레테이아 프레임워크를 오픈 액세스로 공개한 것은 글로벌 AI 커뮤니티의 비판과 협력을 유도하여 개선을 모색하기 위한 것이다. 이 프레임워크를 공개하기로 결정한 배경에는 최근 운동신경질환(MND: Motor-Neurone Disease)을 앓고 있는 사람들을 위한 음성 소프트웨어의 획기적인 발전이 계기가 되었으며, 이러한 성과는 개인적으로 이 질환을 경험했던 롤스로이스 직원이 동기를 부여한 것이다.
이 소프트웨어는 AI를 이용해 목소리와 관용구, 정서적 어조 및 구문을 학습하여 주변 사람들과 빠르게 상호작용할 수 있도록 함으로써 MND로 인해 말을 할 수 없는 환자들과 함께 생활하는 사람들의 삶의 질을 향상시킬 수 있다. 이 소프트웨어 개발 경험은 알레테이아 프레임워크를 구축하는 데에 도움이 된 AI 활동 중의 하나였다.
[디펜스투데이]
