[보안이슈] ChatGPT에 회사 대외비 자료 입력 사례와 편리함

기사링크

 

ChatGPT를 이용하는 사람들이 회사의 핵심 기밀같은 대외비 자료를 ChatGPT에 입력하는 사례가 증가하고 있다. 

- 반도체 회사에서 반도체 관련 프로그램을 ChatGPT에 입력해서 오류를 해결하거나 최적화를 요청 

(모니터링 과정에서 적발)

- 사내 회의 내용을 넣고 회의록 작성 요청

- 환자 이름과 진료 기록을 입력한 뒤, 보험사에 보낼 양식을 만들어달라 요청

- 회사 핵심 전략을 입력한 뒤, 이를 토대로 ppt 자료 제작 요청

.. 등

 

모 보안업체 曰

누군가가 ChatGPT에게 "OO기업의 핵심 전략을 알려달라." 요구했을 때, ChatGPT는 이전에 해당 회사 임직원이 제공한 정보를 바탕으로 대답할 가능성이 있다고 한다.

 

NCSC 曰

"이용자들이 입력한 정보를 통해 ChatGPT가 자동으로 학습하지는 않지만, 이 내용이 ChatGPT 개발사에 공개될 수 있다."

“해당 내용은 저장되고, 어느 시점에는 GPT 같은 대규모 언어모델이나 서비스를 개발할 때 사용될 것”

 

이용자 정보를 활용하지 않는다고 해도, 서버에 저장된 질문이 해킹되거나 오류로 인해 공개될 가능성이 있다.

이전에 발생했던 ChatGPT 오류처럼. (일부 이용자가 타 이용자의 채팅 제목을 확인/유료버전 구독자의 결제정보 노출)

이에 대해 기업들에서는 아예 회사 내에서 임직원의 ChatGPT 사용을 금지하거나, 일부 제한하고 있다.

 

 

 

---

사실 그럴만도 한게, 나조차도 업무 중 발생하는 트러블슈팅에 이용하고 있기 때문에..

물론 조심해서 사용하고 있다.

 

chatGPT 등장 이전에는,

문제 발생 → 구글링→ 안나옴 → 영어로 구글링 → 명확한 답 없음 → 납득 불가능 → 체념

이랬는데요 ㅋㅋㅋㅋㅋ.

진짜 체념하기까지 엄청 오래 걸렸단 말입니다. 시간낭비에... 또 납득이 안가니까 찜찜하고.

 

지금은,

문제 발생 → chatGPT → 답변 검증 과정(확실한 정보인지) → 납득 불가능 → chatGPT랑 말싸움 → 납득 또는 체념

비슷한 것 같지만 시간소모가 많이 줄었습니다.

그래도 chatGPT가 항상 올바른 답을 하는 것은 아니기에.. 확실한지 계속 물어보고, 검증하고, 정리해서 다시 물어보고.. 해야합니다.

이것만으로도 너무 편하네요.

 

chatGPT에게 되묻기

 

 

그나저나, 위 기사에서 말한 모니터링 부분이 궁금하네요.

회사 측에서 chatGPT 사용을 모니터링 한다는 건데.. 

아예 사내망에서 chatGPT 접속을 차단하는 것 외에 어떤 방법을 사용하고 있을지 궁금합니다. 

 

설마 직접 돌아다니며 확인하다가 우연히 걸린건 아닐 테지요.