[보안이슈] 머신러닝 공급망 공격 발생 가능, 모델에 멀웨어 담아서 사용

많은 기업들이 머신러닝을 사용하는 추세임.

그러나 머신러닝 알고리즘을 자체적으로 개발할 수 있는 회사가 많지 않기 때문에 오픈소스 알고리즘을 사용

→ 오픈소스 알고리즘 감염 위험.

→ 공개된 저장소에 멀웨어가 은밀히 업로드 되는 이슈들이 인공지능 생태계에서도 발생 가능.

→ 머신러닝 공급망 공격

 

그런데 위협 행위자들이 머신러닝 모델을 가로채고, 멀웨어 유포에 활용 가능하다는 사실이 발견됨. 

모델들이 널리 공개된 것들이기에.. 이를 통해 악성 행위를 가능.

즉, 공개된 머신러닝 알고리즘을 사용할 때 위험할 수 있음.

 

인공지능 업체 히든레이어(HiddenLayer) 曰

머신러닝이 공유되는 저장소는 보안장치가 없는 경우가 많음. 누군가 머신러닝 알고리즘을 멋대로 조작하더라도 방지하거나, 알아낼 방법이 없음. 게다가 머신러닝 모델을 스캔하는 백신 솔루션을 찾기 힘들다. 머신러닝 모델을 멀웨어의 그릇으로서 사용하면 백신의 탐지 우회가 손쉬울 것..

 

해당 기사 링크 (보안뉴스)