BMW 토론토, AI 챗봇 오류 후 매입 제안을 복원

BMW 토론토는 처음에 AI 챗봇이 실수로 거래를 성사시켰다고 말한 뒤 고객에게 제안한 매입 제안을 철회했다가, 이후 이 이야기가 주목을 받자 원래 금액을 다시 복원했다. 2023년 이 딜러십에서 중고 2021년형 BMW를 구입한 잭 지아코멜리는 심각한 수리 문제 이후 차를 다시 팔기 위해 협상을 진행하고 있었다. 그는 퀸(Quinn)이라는 챗봇이 27,162.79달러를 제시했으며, 이는 그가 아직 갚아야 할 잔액과 일치했다고 말했다. 그러나 딜러십은 나중에 그 제안이 유효하지 않다고 밝혔고, 챗봇이 숫자를 잘못 이해했다고 설명했다. 법률 전문가들은 이 사례가 기업들이 고객 서비스와 판매에서 AI를 사용할 때 직면하는 위험을 보여준다고 말했다. 에어캐나다와 관련된 이전의 캐나다 재판 사례에서는 회사가 챗봇이 제공한 부정확한 정보에 대해 책임을 지는 것으로 판정됐다. CBC 뉴스가 BMW 토론토에 연락한 뒤, 딜러십은 원래 제안을 다시 복원하고 앞으로의 매입 협상은 인간 직원으로만 제한할 것이며 고객이 AI와 상대하고 있을 때는 더 분명하게 알리겠다고 말했다.