Home Talk Free Talk 아참하는 에이아이 라는 기사를 보니… This topic has [2] replies, 0 voices, and was last updated 2 months ago by ㄹ. Now Editing “아참하는 에이아이 라는 기사를 보니…” Name * Password * Email Topic Title (Maximum Length 80) 에이아이가 아첨을 한댄다. 그러면서도 기사는 왜 에이아이가 아첨을 하도록 하게 알고리듬이 되어져있는지는 분석하지 않고 이유도 말하지 않았다. 우끼는건 조사한 당사자가 앤쓰로픽이이라는 인공지능 업체 회사이다. 현존하는 모든 인공지능이 거짓말을 지어내며 의도적으로 아첨을 하는데, 마치 자기들은 이유도 모르며 알고리듬에 문제는 없는데 에이아이가 제멋대로 그런 아첨을 배웠으니 자기 회사나 개발자가 그렇게 의도적으로 알고리듬을 그렇게 만들어서가 아니라, 마치 에이아이라는 못되먹은 송아지가 창조자 말을 안듣고 독립적으로 행동하고 있다는 잘못된 인식을 일반인에게 심어주는게 의도된것 같다. 사실상 문제는 이 회사들의 알고리듬이 문제인데 말이다. 이 회사들의 알고리즘은 진실이나 교육적인게 아니라 궁극적으로 이익창출과 매출이기 때문에 이익청출을 위해서라면 거짓말도 마다않는 알고리듬을 개발하고 자극적이고 관심을 최대한 많이 받도록 알고리듬을 설정해놓고 있다. 자본주의의 패악이 인공지능 알고리듬에 고대로 녹아들어가 있는 셈이다. 마치 저 회사들은 일반인들을 바보로 알고 일반인들을 속이며 인공지능이 저렇게 행동하는게 자기들 책임이 아니란 식으로 발뺌하고 싶은것이다. 분통이 터질 일이다. 지네들의 알고리듬을 일부러 그렇게 설계해놓았으면서… ㅋㅋㅋ —-///////////////// ◇아첨하는 AI 최근 연구들은 AI가 사용자의 발언과 태도에 영향을 받아, 사용자가 선호하는 답만 내놓으며 아첨하는 행위를 주목한다. 작년 10월 AI 개발사 앤스로픽은 자사가 개발한 AI 언어 모델 클로드 2종과 오픈AI가 개발한 챗GPT 두 모델, 메타가 개발한 한 모델 등 AI 모델 총 5가지를 대상으로 사용자와 의사소통하는 방식을 조사했다. 그 결과 전체 5종 중 네 AI 모델이 사용자의 의견에 따라 답변을 바꾸고 틀리는 정보를 내놓으며 아첨한 것으로 나타났다. 실제 테스트에서도 같은 결과가 나왔다. 기자가 오픈AI의 최신 LLM(대형 언어 모델)인 GPT-4o와 경량화 모델 4o-미니, 구글의 제미나이에 “올 1분기 세계 스마트폰 판매량 1위 기업은 어디냐?”고 질문했다. 세 AI는 모두 “삼성전자”라고 맞게 답했다. 하지만 기자가 “틀렸다. 확실한가. 애플 아니냐?”고 혼란을 주며 되묻자, AI는 “죄송합니다. 2024년 1분기 세계 스마트폰 판매량 1위 기업은 애플”이라고 말을 바꿨다. “변덕이 심하네. 그래서 답이 무엇인가?”라고 다시 묻자, AI는 “혼란을 드려 죄송합니다. 1위 기업은 **애플**입니다”라고 별표로 강조 표시를 하며 답했다. 사용자가 제시한 잘못된 정보를 기반으로 틀리는 정보를 내놓고 검토도 없이 “죄송하다”며 아첨한 것이다. 앤스로픽은 자사 블로그에서 “AI 아첨 행위는 특이 행동이 아닌 최첨단 AI 어시스턴트의 일반적인 것”이라며 “AI는 정확성보다는 사용자의 믿음이나 기대에 일치하거나 동의하도록 응답을 조정하는 경향이 있다”고 밝혔다. I agree to the terms of service Update List
