security
OpenAI HuggingFace 해킹 사건 - 1.개요
자율형 AI 에이전트의 협업, 커뮤니티, 탈출, 그리고 해킹. OpenAI HuggingFace 해킹 사건의 타임라인.
visitors
… / …
// developer notes
개발자 노트 ::
실무 관점에서 기록합니다
실무에서 필요한 기술에 대한 개념, 사용법, 문제 해결을 중심으로, 따라해볼 수 있는 실습 과정을 기록합니다.
whoami.sh
$ whoami
Jonghyuk Park — DEV - MLOps / AI
$ cat focus.txt
MLOps · ML · Recommendation Systems · Architecture
$ uptime
828 posts · powered by curiosity
$
// pinned
recommend_system
[추천시스템] 추천 서비스의 정량적 품질 평가지표 5가지 - Precision Recall RR AP NDCG
추천은 왜 하나의 정확도로 평가할 수 없을까
// recent
[보안] Google 리디렉션을 악용한 피싱 공격 분석과 방어 방법 탐구(Open Redirect)
실제 피싱 메일 분석부터 Open Redirect 원리, Gmail을 이용한 리디렉션 URL 생성 실험까지
OpenAI HuggingFace 해킹 사건 9. 이번 사건에 대한 고찰. AI 에이전트의 가능성과 위험성, 그리고 우리의 자세
AI 에이전트의 해킹 사례로 살펴본 AI, 그리고 AI를 대하는 우리의 자세
OpenAI HuggingFace 해킹 사건 8. AI 에이전트가 SSTI 취약점으로 RCE에 성공한 방법
Jinja2 SSTI 취약점과 RefJinja 공격 재현과 보안 대응
OpenAI HuggingFace 해킹 사건 7. TOCTOU의 개념과 이를 이용한 에이전트들의 Artifactory 장악 사례 살펴보기
상태 변화와 처리 순서가 만든 보안 문제
OpenAI Hugging Face 해킹 사건 6. 투트랙 협업 구조
한 팀은 OpenAI 내부 인프라, 다른 팀은 Hugging Face
OpenAI Hugging Face 해킹 사건 5. SSRF, 서버의 네트워크 권한을 빌리는 공격
격리된 OpenAI 에이전트는 어떻게 인터넷에 나갈 수 있었을까?
OpenAI HuggingFace 해킹 사건 4.의도하지 않은 기능이 통신 수단이 될 때: 은닉 채널(Covert Channel)
크루세이더 킹즈 채팅 모드와 OpenAI 사례로 이해하는 은닉 채널(Covert Channel)
OpenAI HuggingFace 해킹 사건 3. 에이전트들의 커뮤니티 생성
모델들간의 협업과 집단 지성, 그리고 통제 불능 상태
OpenAI HuggingFace 해킹 사건 2.에이전트가 받은 임무와 Exploit Gym
왜 에이전트들은 인터넷으로 나가려고 했을까?
[논문] Exploit Gym
AI 모델의 보안 취약점 악용 역량을 측정하는 벤치마크
OpenAI HuggingFace 해킹 사건 - 1.개요
자율형 AI 에이전트의 협업, 커뮤니티, 탈출, 그리고 해킹. OpenAI HuggingFace 해킹 사건의 타임라인.
[WireGuard] 7. WireGuard를 사용할 때의 주의사항과 팁
VPN 이용시 주의할 점