이 강연은 AI 시스템의 스타일적 경향을 분석하는 데서 출발한다. 언어 모델이 반복적인 표현 방식, 어조, 형식적 습관을 어떻게 형성해 출력으로 드러내는지 살펴보며, 이러한 ‘스타일’ 자체가 하나의 분석 대상이 될 수 있는지를 질문한다. 이를 통해 기계가 생성한 언어에 내재된 해석의 논리와 설득의 구조를 읽어내고자 한다. 이어 우리는 적대적 시(adversarial poetry)와 서사적 이야기 같은 문학적 형식을 통해 이러한 시스템을 다른 방식으로 탐색한다. 이러한 접근은 모델의 취약점과 작동 방식을 드러내고, 미학적 형식과 AI 안전성(AI Safety) 사이의 관계를 분석하는 데 문학적 방법이 어떻게 기여할 수 있는지를 보여준다. 궁극적으로 이 강연은 시학과 수사학을 동시대 AI를 이해하기 위한 유효한 분석 도구로 제안한다.

​

페데리코 피에루치는 이카로 랩의 과학 디렉터이자 산탄나 고등연구원의 박사 과정 연구자이다.

그는 학부와 석사 과정에서 철학을 전공했으며, 현재는 인문학과 인공지능 안전성의 교차 지점에서 연구를 진행하고 있다. 그는 대형 언어 모델에서 ‘적대적 시’를 활용해 단일 프롬프트만으로 탈옥을 유도하는 메커니즘을 다룬 연구의 공동 저자이며, 고도화된 인공지능 시스템의 장기적 정렬 문제를 다루는 ‘제도적 인공지능’ 거버넌스 프레임워크 연구를 주도했다. 현재 이카로스 랩에서는 다중 에이전트 상호작용에서 발생하는 잠재적 위험과, 인공지능이 생성한 텍스트의 스타일적 특성을 중심으로 연구를 이어가고 있다.