웨비나속 Q&A
최근 웨비나 진행 중 발생한 질문과 답변을 조회할 수 있습니다
Q
[질문] 해커들이 AI를 사용하여 특정 기업이나 산업을 타겟으로 하는 맞춤형 공격을 어떻게 설계하는지 궁금하네요?
아직 답변이 없습니다
Q
[질문] AI를 이용한 사이버 방어 시스템 구축 시 고려해야 할 윤리적 문제들에 대해 상세히 설명해 주실 수 있을까요? 특히, 다음 측면들을 중심으로 말씀해 주시면 감사하겠습니다: 1. 개인정보 보호와 AI 시스템의 데이터 수집 범위 사이의 균형을 어떻게 맞추어야 할까요? 예를 들어, 네트워크 트래픽 분석 시 개인 통신 내용을 어디까지 검사해야 하는지에 대한 기준은 무엇인가요? 2. AI 방어 시스템의 의사결정 과정에서 발생할 수 있는 편향성(bias)과 차별 문제를 어떻게 해결해야 할까요? 특정 사용자 그룹이나 행동 패턴에 대해 과도하게 의심하거나 제재를 가하는 상황을 방지하기 위한 방안은 무엇인가요? 3. AI 시스템의 오탐지나 과잉 대응으로 인한 피해 발생 시, 책임 소재를 어떻게 정립해야 할까요? 법적, 도덕적 책임의 경계를 어떻게 설정해야 하며, 이에 대한 국제적 표준이 필요하다고 보시나요? 4. AI 방어 시스템이 발견한 취약점이나 공격 기법을 어디까지 공개해야 할까요? 보안 커뮤니티와의 정보 공유와 잠재적 공격자에게 정보를 제공하는 위험 사이의 균형을 어떻게 맞출 수 있을까요? 5. AI 시스템의 학습 데이터에 악의적인 데이터가 포함되어 있을 경우, 이로 인한 윤리적 문제를 어떻게 해결할 수 있을까요? 데이터의 출처와 품질을 검증하는 과정에서 고려해야 할 윤리적 가이드라인은 무엇인가요? 6. AI 방어 시스템의 투명성과 설명 가능성(explainability)을 어느 정도까지 보장해야 할까요? 고도로 복잡한 AI 알고리즘의 의사결정 과정을 이해관계자들에게 어떻게 설명하고 검증받을 수 있을까요? 이러한 윤리적 문제들에 대한 귀하의 견해와 함께, 실제 기업이나 조직에서 이를 해결하기 위해 도입할 수 있는 구체적인 정책이나 가이드라인 사례가 있다면 함께 말씀해 주시면 감사하겠습니다.
아직 답변이 없습니다
Q
[질문] AI, 특히 요즘 각광받는 ML의 경우 Rule based AI에 비해 갖는 약점이 interpolation은 강해도 extrapolation은 약하다는 것인데요, 보안에 이를 대입하면 기존의 공격과 유사한 공격에는 잘 대응해도 새로운 형태의 공격에 대해선 취약할 수 있다는 것인데, 이의 보완(보안 아님)하기 위해선 결국 인간 expert가 여전히 필요하게 되는 것일까요?
A
AI는 아직은 보조적인 도구 입니다. 지속적인 개선이 되겠지만 여전히 사람이 개입하여 대응하는 과정이 필요하다고 생각합니다.
고성종
2024-09-28 18:36
Q
[질문] 휴만에러만 줄여도 참 보안강화가 큰 도움이 될듯한데 그래도 최종은 휴먼 분석가가 정책도 만들고 리딩을 해야 한다고 생각하면 분석가를 얼마나 도와줄수 있냐가 더 중요한데 ai가 분석가에게 줄수 있는 가장 큰 잇점은 무엇인가요 ? 결정을
A
웨비나에서 이야기 했던 Google Threat Intelligence의 Code Insight같은 AI기능의 경우 사람이 코드를 모두 읽고 해석할 필요가 없습니다. 그만큼 의사결정의 속도가 빨라질 수 있는점이 가장 큰 장점이 아닐까 생각됩니다.
고성종
2024-09-28 18:37
Q
[질문] AI 해커들이 주로 노리는 취약점이나 공격 대상은 무엇인가요?
아직 답변이 없습니다
Q
[질문] 해커들이 사용하는 AI 도구 같은 게 있다면 어떤 것들이 있는지 궁금합니다?
아직 답변이 없습니다
Q
[질문] 다온에서 자체적으로 or 실제서비스 사이트가 현재는 서비스 안하는데 실테스트 하는걸로 규성 현재화해서 일정기간 최근 해킹 유형별로 공격하고 방어하는 결과 내용을 제시하며 성능이나 성공율을 결과치로 보여줄수 있는 정보가 있는지 궁금합니다. 고객에게 제안할떄, 실제 이렇게 테스트해서 이런 결과가 나왔다 라고 하는 실사례를 보여주면 효과적일거 같아요~
아직 답변이 없습니다
Q
[질문] AI 기반 공격에 대비하기 위한 효과적인 임직원 교육 방법은 무엇이 있을까요?
아직 답변이 없습니다
Q
[질문] AI를 활용한 방어 시스템의 오탐지(false positive) 문제를 어떻게 해결할 수 있을까요?
아직 답변이 없습니다
Q
[질문] AI 해커에 대응하기 위해 기업이 갖춰야 할 핵심 역량은 무엇이라고 보시나요?
아직 답변이 없습니다
Q
[질문] AI를 활용한 최근 사이버 공격 사례 중에서 특히 충격적이거나 독특했던 사례가 있다면 소개해 주실 수 있을까요?
아직 답변이 없습니다
Q
[질문] AI가 방어자를 솔루션이나 서비스 형태로 지원하거나 제공할 경우, 복잡한 내용이나 대응 속도가 빠를 수 있는데 자동화율은 어느 정도이며, 침해 대응 및 방어에 대한 내용을 방어자(관리 및 사용자)가 이해할 수 있도록 해당 상황에 대한 설명이나 알림이 제공되는지 궁금합니다
A
Google Cloud SecOps로 말씀드리면 단순 알람에 대한 case 생성 및 처리에 대한 부분에서 기존대비 최소 2배 이상 업무 속도가 개선되었다는 의견이 있습니다. 더불어 상황에 따라서는 차단까지 자동화가 가능하며 중간중간 이벤트에 대한 요약정보, 대응방안들을 AI가 의견을 주어 더 빠르게 상황을 인식할 수 있도록 도와드리고 있습니다.
고성종
2024-09-28 18:42
Q
[질문] 미래 트렌드에서 AI의 역할은 어떻게 진화할 것으로 예상되며, 기업들이 이러한 변화에 대비하기 위해 어떤 준비가 필요할까요?
아직 답변이 없습니다
Q
[질문] AI 공격에 대한 방어를 AI를 한다면 창과 방패싸움같은데 그럼 승리의 결정요인은 AI성능일까요 ? 아님 다른 요소는 뭐가 있을지요 ?
아직 답변이 없습니다
Q
[질문] AI를 이용하다가 도리어 일이 꼬이거나 손해를 보게되는 경우는 없나요?
아직 답변이 없습니다
Q
[질문] 이에는 이, AI 해커의 방어는 AI로 하는게 맞지 않나 생각 듭니다. 일반적인 해커의 공격 방식과 AI 공격 방식이 다른 건지 같은건지? 그에 맞는 유연한 방어 대안이 솔루션을 통해 가능한지 궁금합니다.
아직 답변이 없습니다
Q
[질문] AI 해커들의 주요 공격 패턴이나 행위의 특징은 무엇이며, 올해 가장 크게 나타나거나 증가한 공격 패턴은 무엇인지 주로 무엇을 노린 침해 행위인지요?
아직 답변이 없습니다
Q
[질문] 공격자들이 사용하는 생성형AI 의 프롬프트를 조회하거나 검색할수 있다면 방어에도 아주 큰 도움이 될 듯한데 이런것은 없나요 ?
아직 답변이 없습니다
Q
[질문] 딥페이크 공격은 인종, 성별, 나이 상관없이 이미지 변화에 대해서는 제약 없이 생성이 가능한가요? 좋은 점보다는 악용 사례가 너무 많을 것 같은데 추 후 구분 가능한 대처 방안은 없는지 알고 싶습니다.
아직 답변이 없습니다
Q
[질문] AI 기술이 사이버 보안에 미치는 긍정적인 영향과 부정적인 영향은 무엇인가요?
아직 답변이 없습니다