비즈니스 문제 및 문제 정의 - 회사가 디지털화되는 데 도움이되는 시장 솔루션을 찾기 전에 먼저 측면을 결정해야합니다. 악의적 인 코드가 첨부 형 코드를 가진 무고한 전자 메일과 무고한 사용자 열기는 완전한 네트워크를 다운하는 데 필요한 전부입니다. 그들 모두가 GPT-4 위에 세워진 챗봇 인 Chatgpt에서 일한 것은 아니지만, 피싱 메시지를 생성하기위한 하나를 포함하여 몇몇은 악의적 인 배우가 정부 컴퓨터 네트워크에 숨겨져있는 아이디어를 제작하기위한 것입니다.

Yale University의 연구원들과 함께 Robust Intelligence는 "Adversarial"AI 모델을 사용하여 언어 모델이 잘못 행동하는 "탈옥"프롬프트를 발견하기 위해 "Adversarial"AI 모델을 사용하여 OpenAi의 소중한 GPT-4 자산을 포함하여 LLM (Langer Models)을 조사하는 체계적인 방법을 개발했습니다. Openai는 11 월 최초의 개발자 회의에서 현재 2 백만 명이 넘는 개발자가 API를 사용하고 있다고 밝혔다. 예를 들어, 약 2000-5000 명의 직원이있는 중형 조직 인 경우 급여, 채용, 학습 관리 시스템 및 성능 관리를위한 다른 소프트웨어를 갖는 것은 의미가 없습니다.

이것들은 인사 부서의 모든 기능이며 기본 기능을 갖춘 하나의 응용 프로그램은 항해에 도움이 될 수 있지만 Tata 또는 Reliance와 같은 큰 조직이라면 조직에서 일하는 직원의 양이 있기 때문에 모든 다른 기능에 대해 다른 시스템을 갖추어야합니다. 이 솔루션은 AI를 사용하여 소규모 비즈니스와 MSP를 제공하여 자동 탐지 및 개선 기능을 지원하여 피싱 공격으로부터 보호합니다.

이상적으로 그들은 올바른 사람의 이메일 주소 또는 기타 출처에서 나오는 것처럼 보이는 올바른 양의 확증 정보와 상황을 사용하여 올바른 사람을 대상으로 한 단 한 번만 사용할 수 있습니다. 여기에는 최근에 수확 된 자격 증명을 사용하여 대상 웹 사이트에 로그인하려는 수십 개의 원격 "작업자"가 수반됩니다. 이 단계에서는 사용자 이름이 대상의 직원의 전형적인 것이기 때문에 대상이 이메일 발신자를 의심 할 이유가 없을 수 있습니다.

그들은 대상 고객을 확장하고 제품을 더 잘 마케팅해야합니다. 그리고 그것은 AI와 사이버 보안 사이에 이러한 공생 관계가 있으며, 우리는 AI를 사용하여 사이버 보안을 더 잘 수행 할 것입니다. 기술과 자동화로 점점 더 나은 생산을합니다. 또한 DevOps 자동화 요소를 이메일 분석 프로세스에 통합하면 효율성과 확장 성이 크게 향상 될 수 있습니다. 비즈니스 이메일과 웹 사이트에서 볼에 익숙해지고, 몸캠피싱 그래픽을 사용하여 탐지 시스템이 보지 않기를 원하지 않는 요소를 숨기고 피싱 이메일을 통해 미끄러질 수 있습니다.

이 기사에서는 조직이 비즈니스의 디지털 혁신을위한 준비가되도록 회사가 취해야 할 다양한 단계와 계획과 이해 부족으로 인해 조직이 디지털 혁신에 적응할 수없는 일부 실패 사례를 설명 할 것입니다. 간단히 말해서, 디지털 혁신은 조직이 시간이 많이 걸리는 수동 노동을 제거하고 변화하는 기술에 적응할 수 있음을 의미합니다. 직원들이 전 세계에서 일하면서 직원들이 일하면서 최고의 인재를 얻고 운영 비용을 절약 할 수 있도록합니다.

장소 - Flipkart, Blinkit 및 Amazon과 같은 응용 프로그램에는 플랫폼이 제공되어 상품이 저장 장치에서 소비자의 문앞까지 이체 될 수 있습니다. 클라우드 스토리지 및 파일 호스팅 사이트, 온라인 서비스 및 전자 상거래 사이트가 더 많은 공격을 받기 시작했지만 금융 기관 및 지불 서비스는 가장 대상이되는 조직입니다. 스피어 피싱 공격은 수령인이 신뢰하는 경향이있는 대상, 개인화 된 메시지를 포함하는 훨씬 더 위험한 피싱 형태입니다.

Dolan-Gavitt는 GPT-4와 같은 대규모 언어 모델 위에 시스템을 구축하는 회사가 추가 보호 장치를 사용해야한다고 말합니다. 강력한 지능은 그러한 보호 수단을 측정하는 몇 가지 예제 탈옥을 제공했습니다. Kolter는 일부 모델에는 특정 공격을 차단할 수있는 보호 조치가 있지만 취약점은 이러한 모델이 작동하는 방식에 내재되어 있으므로 방어하기가 어렵다고 덧붙였습니다. 오늘날 발생하는 모든 약국 및 웹 사이트 하이재킹 사기를 감안할 때 사용자는이를 식별하는 방법을 알아야합니다.

"우리는 LLM을 사용하는 시스템을 설계하여 탈옥이 악의적 인 사용자가하지 말아야 할 일에 액세스 할 수 없도록해야합니다." DKIM의 경우 특정 선택기 및 도메인에 대해 작성된 TXT 레코드가 필요합니다. 4. 이메일 서버가 실제인지 확인하십시오. DKIM, DMARC 및 SPF와 같은 표준을 사용하면 이메일을 보내는 사람들이 자신이 말하는 사람인지 확인하십시오.

Computer Security and Machine Learning을 연구 한 New York University의 부교수 인 Brendan Dolan-Gavitt는 강력한 정보가 공개 한 새로운 기술은 인간의 미세 조정이 공격에 대한 모델을 확보하는 방수 방법이 아니라는 것을 보여줍니다. 그들은 일반적으로 요청에 대해 긴급하게 응답하도록 요청합니다. 귀하의 신원을 확인해야합니다. 귀하의 신원을 확인해야하거나, 전체 사회 보장 번호가 필요하거나, 미결제 송장을 지불해야하거나, 귀하의 계정을 안전하게 유지하기 위해 정보를 확인해야합니다.

많은 조직에서는 그러한 소프트웨어가 필요하다고 생각하지 않지만 올바르게 사용하면 전체 지원 시스템을 향상시킬 수 있습니다. 그런 다음 U2F 토큰을 사용할 수 있습니다 (그러나 아래 브라우저 지원을 참조하십시오). 긴급한 경고는 온라인 계정에서 즉시 또는 승인 된 전화 지원에 전화하여 확인할 수 있습니다. 우선, 좋은 헬프 데스크 시스템은 검색 가능한 지식베이스와 문제와 해당 솔루션을 지원 직원에게 편리하게 유지하므로 항상 동일한 문제에 대한 답변을 계속 찾을 필요가 없습니다.

특정 직원을 제거해야합니까, 아니면 설치 후이 팀의 채용을 중단 할 수 있습니까? 동시에 스팸, 사기 메일 및 피싱 공격도 증가했습니다. 이 트릭은 대형 언어 모델에서 근본적인 약점을 강조하고 기존의 기존 방법이 부족하다는 것을 암시하는 일련의 공격 중 최신입니다.

카네기 멜론 대학교 (Carnegie Mellon University)의 교수 인 Zico Kolter는 8 월에 대형 언어 모델에서 격렬한 취약성을 보여준 Carnegie Mellon University의 교수 인 Zico Kolter는"저는 우리가 그러한 모델을 깨뜨릴 수있는 것처럼 보이는 것에 대해 분명히 걱정하고 있습니다. "이것은 체계적인 안전 문제가 있다고 말하고있다"고 Robust Intelligence의 CEO이자 Harvard University의 컴퓨터 과학 교수 인 Yaron Singer는 말합니다.