세일즈포스의 영국 및 아일랜드 CEO인 자흐라 바흐롤로루미가 정부에 인공지능(AI) 규제가 모든 기술 기업에 동일하게 적용되지 않도록 할 것을 촉구했다. 그녀는 CNBC와의 인터뷰에서 세일즈포스가 모든 법안을 진지하게 받아들이고 있지만, 영국의 AI 규제는 “비례적이고 맞춤형”이어야 한다고 강조했다.
바흐롤로루미는 소비자 용 AI 도구를 개발하는 기업과 기업용 AI 시스템을 만드는 기업 간의 차이를 지적하며, 후자가 더 높은 개인정보 보호 기준을 준수해야 한다고 말했다. 그녀는 “소비자 기술을 운영하는 회사들과 기업 기술을 운영하는 회사들은 생태계에서 각기 다른 역할을 가지고 있다”면서, 기업 고객에게 서비스를 제공하는 B2B 조직으로서의 세일즈포스의 위치를 강조했다.
영국 과학·혁신·기술부의 한 대변인은 예정된 AI 규제가 “가장 강력한 AI 모델을 개발하는 소수의 기업에 대해 고도의 타겟팅이 이루어질 것”이라고 언급하며, 모든 AI 사용에 대한 “일률적인 규칙” 적용은 없을 것이라고 밝혔다. 이는 세일즈포스와 같은 기업들이 자사 독자적인 기반 모델을 개발하지 않기 때문에 규제의 대상이 되지 않을 가능성을 시사한다.
바흐롤로루미는 AI가 성장과 생산성을 촉진하는 힘을 가지고 있으며, 영국 경제 전반에서 기술의 채택을 가속화하는 데 기여할 것이라고 강조했다. 세일즈포스는 자사의 에이전트 포스(Agentforce) AI 플랫폼에 내재된 윤리와 안전성을 홍보하고 있으며, 이 시스템은 기업이 자체 AI “에이전트”를 생성할 수 있도록 돕는다. 이 시스템의 “제로 리텐션(zero retention)” 기능은 고객 데이터가 세일즈포스 외부에 저장되지 않도록 보장한다.
바흐롤로루미는 소비자 AI 챗봇이 어떤 데이터를 사용하고 있는지 불확실하다고 지적하며, AI 모델 훈련에는 방대한 양의 데이터가 필요하다고 덧붙였다. 이는 기업 고객에게 서비스를 제공하는 AI 솔루션과는 다른 과제가 있다. 특히 마이크로소프트의 코파일럿(Copilot)도 기업 고객을 목표로 하지만, 보안 상의 위험이 있다고 언급했다.
CCS 인사이트의 기업 연구 책임자인 볼라 로티비는 기업 중심의 AI 공급자들이 보안 및 데이터 프라이버시와 관련된 요구 사항에 대해 더 인식하고 있다고 밝혔지만, 소비자와 기업 간의 서비스를 제공하는 기업 모두가 규제의 대상이 될 것이라고 확신했다. GDPR(일반 개인정보 보호 규정)이 영국에서 시행된 만큼, 개인 정보 및 투명성에 관한 우려는 모든 수준에서 존재하는 것이 재확인되었다.
바흐롤로루미의 발언은 영국 총리 키어 스터머의 노동당이 금왕의 연설에서 AI 법안을 도입하지 않기로 한 결정 이후 나오게 되었다. 정부는 적절한 AI 법안을 수립할 계획이라고 밝혔지만, 구체적인 세부 사항은 제공하지 않았다.
