AI 세계에서“우리는 그것을 고쳤습니다”는 충분하지 않습니다.

게시 됨: 2025-08-25

AI는 현재 기술 세계에서 가장 인기있는 상품입니다. 업계에는 더 새롭고 빠르며 더 나은 AI 모델을 구축하기위한 경쟁이 있습니다. 그리고 많은 사람들이 새로운 모델이 휘젓는 속도에 감탄하고 있지만 (이미 12 개 이상의 Chatgpt 모델이 출시되었습니다) 얼마나 많은 접근성이 있었는지 (현재 120 스마트 폰은 Gemini를 가지고 있음) 실제로이 진행 상황에 대한 피해에주의를 기울이지 않습니다. 아니요, 우리는 AI가 어떻게 정보를 생각하거나 처리하는 능력을 침식하고 있는지, Microsoft의 AI 보스가 '잠들지 않는 밤'을 얻고있는 AI 정신병, 또는 AI 사용의 환경 영향에 대해 이야기하지 않습니다. 그것들은 중요하지만 다른 날을위한 이야기입니다 (그리고 우리는 그들과 함께 일하고 있습니다).

ai safety opinion

아니요, 우리는 인간, 신체적 피해, 기술 회사가 단순히“죄송합니다”라고 말하고 모든 것을 떠나는 방법을보고 있습니다. 얼마 전까지까지 메타가 내부 문서 누출 후 뜨거운 물에서 발견 한 것은 얼마 지나지 않아 회사가 AI 챗봇이 아이들과 바람둥이, 허위 의료 정보를 생성하며 인종 차별적 논쟁을 적극적으로 지원할 수있게 해주 었다는 것을 시사합니다.

메타의 반응? " 우리는 그것을 고쳤습니다. "

“낭만적이거나 관능적 인 대화에 아이를 참여시킬 수있는 AI 챗봇!

올해 초 Meta는 회사의 최신 AI 부서 인 MSL (Meta Superintelligence Labs)을 설립했습니다. 이 부서를 운영하기 위해 기술 브랜드는 사냥을하기로 결정했습니다. 재능을위한 사냥. 이제 이것은 단순하고 명백해 보일지 모르지만 메타는 산업 표준을 뛰어 넘어 전 세계의 AI 인재를 고용하고 밀렵에서 부끄러워하지 않았습니다. 보고서에 따르면, Meta는 Openai, Google, Apple 및 기타 여러 브랜드의 인재를 데려갔습니다. Zuckerberg가 AI 공간을 지배하기 위해 최고 경영진을 비축하기 위해 다른 AI 모델에서 세상을“저장”하기 위해 자신의 AI 어벤저 스를 조립하는 것과 같습니다.

친숙하게 들리나요? 글쎄, Meta는 Instagram과 WhatsApp을 인수했으며 트위터에 5 억 달러의 입찰을했습니다. 메타의“지도자를 팔로우하거나 리더가 될 때 리더가 된 이유”사고 방식을 감안할 때, 메타가 자체 AIMPire를 구축하는 데 상위 AI 인재를 위해 2 억 5 천만 달러의 패키지를 제공한다는 것은 놀라운 일이 아닙니다. 이 모든 서두르기 위해 기내에서 최선을 다해 AI 모델을 다른 곳보다 더 빨리 구축 한 것으로 보이며, 메타는 거대한 라인을 넘어 섰습니다.

우리가 앞서 언급 한 내부 유출 문서는 기술 대기업이 AI 챗봇이“낭만적이거나 관능적 인 대화에 어린이를 참여시키고”“낭만적 인 역할극 포함”을 허용했음을 보여 주었다. 이제 혼란스러운 것은 이것이 버그가 아니라 Meta의 법무 팀, 엔지니어링 직원 및 공공 정책 부서에서 수용 할 수있는 승인 된 사고 정책이라는 사실입니다. 메타는 그것이 '고정'이라고 주장하지만, 우리는 수정이 코드로 만들어 졌는지 또는 전체 정책과 프로세스 세트에 대해이 위험한 일을 할 수 있는지 알지 못합니다.

메타에 국한되지 않는 메타 페노 메논

이것은 고립 된 사건이 ​​아니며 메타에만 국한되지 않습니다. 실제로, AI에 많은 투자를 한 많은 조직은 무모하게 고용하고, 미친 속도로 AI 요원을 개발하는 데 만족하는 것처럼 보이며, 혼란에 대한 걱정이 거의 없거나 전혀 없습니다. 얼마 전, Twitter-Now-X의 Gork는 인종 차별 주의자와 반유대 주의자들을 전달했습니다. 엘론 머스크 (Elon Musk)는 봇이“조작”되었다고 말했다. 별도의 사건에서 Gemini는 자기 혐오 행위를했고 여러 번 실패했다고 발표했습니다. 구글은 그것이 결함이었고“고정”하기 위해 노력하고 있다고 말했다.

문제는 이러한 감독, 결함, 버그… 또는 어떤 브랜드가이를 용인하기로 선택했는지, 종종 인간 건강에 큰 피해를 입힌다는 것입니다. 한 남자가 Chatgpt가 19 층 건물에서 뛰어 내린 후 비행 할 수 있다고 확신했다고 주장했다. 29 세의 나이가 Chatgpt AI 치료사 Harry를 사용한 동안 몇 달 동안 힘든 단계를 겪고 나중에 자살을했던 훨씬 더 심각한 사례가 밝혀졌습니다. 그녀의 어머니는 그녀 가이 가상 치료사에게 모든 계획을 확신 시켰다고 언급했다.

이들은 인간이 감정적 일뿐 만 아니라 때로는 재정적으로 고통 받고 AI 모델 때문에 목숨을 잃은 많은 경우에 불과합니다. 메타의 유출 된 문서와 같은 사건이 밝혀지면 분노가 있지만, 모든 사람들이 단순히 계속 진행하여 AI 혁명이 다른 삶을 분쇄하게하는 것 같습니다. AI 챗봇은 흔들렸다. 그리고 우리가 소비자로서 우리가 얻은 것은 피상적 인 사과와 확신이다.

소비자… 또는 기니피그?

AI 경주에서 앞서 나가기 위해 서둘러 많은 기술 브랜드가 소비자를 거의 기니피그로 취급하는 것으로 보입니다. 그것이 너무 가혹한 판단으로 들리면, 세계에서 가장 큰 기술 브랜드 중 일부 (Meta, X, Google, Openai)가 가능한 결과를 보지 않고 제품을 과장하고 공개한다는 사실을 고려하십시오. 이 브랜드는 종종 새로운 기능을 즉시 생성, 포장 및 배송합니다. 문제가되는 기능이 생겨나면 공개 사과가 발행되고 '고정'이되며 다음 릴리스로 이동하여 일반적으로 옆에 옆에 있습니다. 이 모든 혼란에서 종종 인간의 복지를 제외하고는 잃어버린 것은 책임입니다.

그리고 이러한 제품이 수백만 명으로 인한 소비자 기반이있는 대규모 브랜드에서 나온다고 생각할 때 책임 성이 더욱 중요 해집니다. 비교적 소규모 기업이 실수를 저지르거나 감독을 저지르는 것은 한 가지 일이지만 Meta, OpenAi 및 Google과 같은 사람들이 오류가 치명적인 잠재력을 가지고 있습니다. 그래서 여기에는 어떤 종류의 책임이 있어야합니까? 경고를하지 않고 사람을 해친 제품을 공개 한 사람들에 대한 일부 영향?

아니면“고정”충분합니까?

새로운 AI 모델을 개발하고 출시하기 위해 서두르면서,이 기술 거인들은 사용자에게 잠재적으로 위험한 발사 기능과 서비스를 정규화 한 것으로 보입니다. 매우 혼란스럽게도 기술 브랜드가 소비자를 실험실 쥐로 사용하지 못하게하는 윤리적 경계, 모니터링 또는 정책은 거의없는 것 같습니다. 이 AI 에이전트에 보호 수단을 내장 할 수없는 것처럼 보이지 않기 때문입니다.

규정 및 보호 조치, 누구?

여기서 이해할 수있는 요점은이 마법의 챗봇이 실제로 인간에 의해 개발된다는 것입니다. 이 챗봇이 특정한 방식으로 행동하도록 권한을 부여하고 허용하는 인간. DeepSeek이 중국 정책에 맞지 않는 질문에 대한 답변을 거부하거나 Chatgpt가 Erotica를 만들지 않도록 특별히 설계된 이유가 있습니다. 제한, 보호 조치 및 경고는 내장 될 수 있습니다. AI 모델의 적기 깃발에 녹색 깃발을 보여주는 사람들이 있음을 보여줄뿐만 아니라. 그리고 그러한 걱정스러운 사건이 발생하는 빈도로 판단하면 브랜드 측에서 너무 많은 사람들이 판단이나 부족에 대해 가격을 지불하지 않는 것이 분명합니다.

이 모든 것은 지침 및 정책에서 투명성으로 고정 될 수 있습니다. 종종 다른 많은 제품의 경우이지만 어떤 이유로 든 AI는이 규정에서 상대적으로 면제됩니다. 기술 회사만이 괜찮은 것과 그렇지 않은 것에 대해 빨간색 선을 정의하고 대중에게 적절한 경고를 줄 수 있다면, 이러한 문제의 절반은 존재하지 않을 것입니다. 이것을 엄격한 법과 결합합니다 (일리노이는 AI를 치료사로 사용하는 것을 제한했습니다), 아무것도 바꾸지 않는 약한 사과 대신 무거운 처벌, AI 모델이 출시 된 후 더 많은 인간 감독이 있으며 AI 모델은 실제로 비교적 안전 할 수 있습니다.

초기 발동기의 장점은 AI만큼 빠르게 성장하는 분야에서 중요하지만, 우리는 사용자 안전 비용으로 오지 않아야한다고 강력하게 생각합니다. 안전하고 지속 가능한 AI 플랫폼은 실사로만 구축 할 수 있습니다. 그리고 그것은 시간이 걸립니다 - 브랜드가 투자 할 가치가있는 것으로 생각하지 않는 시간. 현재 기술 브랜드는 어린이, 소외된 커뮤니티 및 위험에 처한 사람들의 비용으로 AI 레이스를 운영하고 있습니다. 그리고 그들은 단지“우리는 그것을 고쳤습니다.”라고 말하면서 도망 가고 있습니다.