ChatGPT 최대 코딩 실수에 대한 OpenAI의 새로운 해결책인 CriticGPT를 만나보세요
페이지 정보
작성자 로우코더 작성일 24-07-02 12:22 조회 14회 댓글 0건본문
ChatGPT 최대 코딩 실수에 대한 OpenAI의 새로운 해결책인 CriticGPT를 만나보세요
ChatGPT는 코드 라인을 작성할 수 있지만 종종 오류로 가득 차 있습니다.
OpenAI는 이 문제에 대한 해결책을 찾았다고 생각합니다: CriticGPT.
새로운 모델은 AI 트레이너가 ChatGPT의 코딩 실수를 더 정확하게 식별할 수 있도록 돕기 위해 설계되었습니다.
OpenAI가 ChatGPT에서 생성된 코드에 숨어있는 버그를 사냥하는 것에 대해 심각하게 생각하기 시작했습니다.
출시 이후, 인공지능 챗봇은 파이썬과 루비 같은 프로그래밍 언어로 된 코드를 생산하는 능력으로 개발자 커뮤니티에 깊은 인상을 남겼습니다. 하지만 개발자들이 의심할 만한 이유도 주어졌는데, ChatGPT에 의해 만들어진 코드는 종종 실수로 가득 차 있기 때문입니다.
퍼듀 대학교의 연구원들이 2023년 8월에 발표한 연구에 따르면 개발자 포럼인 스택 오버플로에서 코드에 대한 질문에 대한 ChatGPT의 응답이 "정확성, 일관성, 포괄성 및 간결성"을 평가한 결과 52%가 잘못된 것으로 나타났습니다
더 나쁜 것은, 연구원들이 발견한 것은, 그 실수들이 종종 확인하기 어려웠다는 것입니다: ChatGPT의 겉보기에는 "artic로 표현된" 반응이 오류를 발견하는 것을 어렵게 만들었습니다.
OpenAI는 문제를 인식하고 새로운 해결책인 CriticGPT로 대응하고 있는 것으로 보입니다.
지난 주 이 스타트업에 의해 공개된 이 새로운 모델은 "ChatGPT의 코드 출력 오류의 catch"을 위해 만들어졌습니다. OpenAI가 말한 것처럼, GPT-4 모델을 기반으로 한 이 도구는 개발자들에게 큰 도움이 될 수 있을 것으로 보입니다.
"우리는 사람들이 ChatGPT 코드를 검토하기 위해 CriticGPT의 도움을 받으면 60%의 경우 도움이 없는 사람들보다 성능이 뛰어나다는 것을 발견했습니다."라고 회사는 블로그 게시물에서 말했습니다.
'환각된 벌레가 더 적음'
우선, OpenAI는 인공지능 트레이너에 대한 CriticGPT의 접근을 제한하고 있습니다. 실제로, 그것은 인간 피드백 (RLHF)으로부터 강화 학습을 통해 ChatGPT에 의해 만들어진 답을 검토하는 것을 직업으로 하는 인간들이 정확성을 평가하기 위해 CriticGPT로부터 도움을 받는다는 것을 의미합니다.
OpenAI는 CriticGPT가 ChatGPT 답변과 "모델이 혼자 일할 때보다 fewer 환각 버그"를 검토하는 데 있어 인간에게 "기술을 향상시켜 사람들이 혼자 일할 때보다 더 포괄적인 비판을 초래하는" AI를 제공할 것이라고 말합니다
그들의 희망은 이것이 점점 더 까다로워지는 검토 과정을 촉진하는 것입니다. OpenAI는 인공지능 모델이 더 발전할수록, 인공지능 트레이너들이 부정확한 것이 "발생할 때 그것들을 발견하는 것"이 더 어려울 수 있다는 것을 인정했습니다
이로 인해 더 큰 문제로 이어질 수 있는 것은 모델이 "피드백을 제공할 수 있는 어떤 사람보다 점차 지식이 풍부해짐에 따라" 의도한 목표와 모델을 일치시키는 데 어려움이 증가한다는 것입니다
인공지능 기업이 생산한 모델이 실제로 사람이 사용하는 모델보다 더 지식이 많아지는 미래는 아직 보이지 않지만, 안전에 초점을 맞춘 인공지능 연구자들은 그런 모델이 위협이 되지 않도록 어떻게 견제할 것인지 고민하느라 바빴습니다.
그러한 연구자들 중에는 지난 5월 안전 문제로 OpenAI를 그만두고 우연히 CriticGPT의 작동 방식을 설명하는 논문의 여러 공동 저자 중 한 명인 Jan Leike가 포함되어 있습니다.
OpenAI는 CriticGPT에 몇 가지 제한이 있음을 인정합니다.
현재로서는 "매우 짧은" ChatGPT의 답변만을 다루고 있습니다. OpenAI는 AI 모델은 여전히 AI 트레이너가 놓칠 수 있는 환각에 취약하다고 말했습니다.
그럼에도 불구하고, Sam Altman의 회사는 챗봇의 오류를 파악하기 위해 노력함으로써 챗봇의 코딩 능력을 높이고자 하는 것으로 보입니다. CriticGPT는 분명히 갈 길이 멀지만, OpenAI가 적어도 그 문제를 해결하려고 노력하고 있다는 것을 보여줍니다.
ChatGPT는 코드 라인을 작성할 수 있지만 종종 오류로 가득 차 있습니다.
OpenAI는 이 문제에 대한 해결책을 찾았다고 생각합니다: CriticGPT.
새로운 모델은 AI 트레이너가 ChatGPT의 코딩 실수를 더 정확하게 식별할 수 있도록 돕기 위해 설계되었습니다.
OpenAI가 ChatGPT에서 생성된 코드에 숨어있는 버그를 사냥하는 것에 대해 심각하게 생각하기 시작했습니다.
출시 이후, 인공지능 챗봇은 파이썬과 루비 같은 프로그래밍 언어로 된 코드를 생산하는 능력으로 개발자 커뮤니티에 깊은 인상을 남겼습니다. 하지만 개발자들이 의심할 만한 이유도 주어졌는데, ChatGPT에 의해 만들어진 코드는 종종 실수로 가득 차 있기 때문입니다.
퍼듀 대학교의 연구원들이 2023년 8월에 발표한 연구에 따르면 개발자 포럼인 스택 오버플로에서 코드에 대한 질문에 대한 ChatGPT의 응답이 "정확성, 일관성, 포괄성 및 간결성"을 평가한 결과 52%가 잘못된 것으로 나타났습니다
더 나쁜 것은, 연구원들이 발견한 것은, 그 실수들이 종종 확인하기 어려웠다는 것입니다: ChatGPT의 겉보기에는 "artic로 표현된" 반응이 오류를 발견하는 것을 어렵게 만들었습니다.
OpenAI는 문제를 인식하고 새로운 해결책인 CriticGPT로 대응하고 있는 것으로 보입니다.
지난 주 이 스타트업에 의해 공개된 이 새로운 모델은 "ChatGPT의 코드 출력 오류의 catch"을 위해 만들어졌습니다. OpenAI가 말한 것처럼, GPT-4 모델을 기반으로 한 이 도구는 개발자들에게 큰 도움이 될 수 있을 것으로 보입니다.
"우리는 사람들이 ChatGPT 코드를 검토하기 위해 CriticGPT의 도움을 받으면 60%의 경우 도움이 없는 사람들보다 성능이 뛰어나다는 것을 발견했습니다."라고 회사는 블로그 게시물에서 말했습니다.
'환각된 벌레가 더 적음'
우선, OpenAI는 인공지능 트레이너에 대한 CriticGPT의 접근을 제한하고 있습니다. 실제로, 그것은 인간 피드백 (RLHF)으로부터 강화 학습을 통해 ChatGPT에 의해 만들어진 답을 검토하는 것을 직업으로 하는 인간들이 정확성을 평가하기 위해 CriticGPT로부터 도움을 받는다는 것을 의미합니다.
OpenAI는 CriticGPT가 ChatGPT 답변과 "모델이 혼자 일할 때보다 fewer 환각 버그"를 검토하는 데 있어 인간에게 "기술을 향상시켜 사람들이 혼자 일할 때보다 더 포괄적인 비판을 초래하는" AI를 제공할 것이라고 말합니다
그들의 희망은 이것이 점점 더 까다로워지는 검토 과정을 촉진하는 것입니다. OpenAI는 인공지능 모델이 더 발전할수록, 인공지능 트레이너들이 부정확한 것이 "발생할 때 그것들을 발견하는 것"이 더 어려울 수 있다는 것을 인정했습니다
이로 인해 더 큰 문제로 이어질 수 있는 것은 모델이 "피드백을 제공할 수 있는 어떤 사람보다 점차 지식이 풍부해짐에 따라" 의도한 목표와 모델을 일치시키는 데 어려움이 증가한다는 것입니다
인공지능 기업이 생산한 모델이 실제로 사람이 사용하는 모델보다 더 지식이 많아지는 미래는 아직 보이지 않지만, 안전에 초점을 맞춘 인공지능 연구자들은 그런 모델이 위협이 되지 않도록 어떻게 견제할 것인지 고민하느라 바빴습니다.
그러한 연구자들 중에는 지난 5월 안전 문제로 OpenAI를 그만두고 우연히 CriticGPT의 작동 방식을 설명하는 논문의 여러 공동 저자 중 한 명인 Jan Leike가 포함되어 있습니다.
OpenAI는 CriticGPT에 몇 가지 제한이 있음을 인정합니다.
현재로서는 "매우 짧은" ChatGPT의 답변만을 다루고 있습니다. OpenAI는 AI 모델은 여전히 AI 트레이너가 놓칠 수 있는 환각에 취약하다고 말했습니다.
그럼에도 불구하고, Sam Altman의 회사는 챗봇의 오류를 파악하기 위해 노력함으로써 챗봇의 코딩 능력을 높이고자 하는 것으로 보입니다. CriticGPT는 분명히 갈 길이 멀지만, OpenAI가 적어도 그 문제를 해결하려고 노력하고 있다는 것을 보여줍니다.