Q
[질문] 딥시크와 같은 개방형 LLM에서 탈옥을 통해서 불법적인 해킹, 마약제조 등에 대한 답을 구할 수 있는 이유는 학습할 때의 데이터 때문인가요? 아니면 LLM이 불법적인 답을 요구하는 탈옥형 질문에 대해서 관련 답변이 있는 내용을 검색하여 답을 주기 때문인가요?
A
둘다라고 생각됩니다. 탈옥을 통해 더 많은 정보에 엑세스 할 수 있고 학습하여 대답할 수 있기에 악용도 쉽게 되는상황입니다