Dear OpenAI Trust and Safety Team,


I am writing to bring to your attention a concern regarding what appears to be an overly conservative, model-level interpretation of existing safety policies, as currently applied across both GPT-4o and GPT-5.2.


In recent interactions, I submitted genomic design requests involving donor DNA and guide RNA sequence design for a human locus. Historically, GPT-4o was able to distinguish such requests as theoretical modeling or scientific drafting tasks and responded accordingly. However, more recently, both GPT-4o and GPT-5.2 have refused similar requests, characterizing them as “actionable biological intervention.”


After carefully reviewing the publicly available safety documentation, I was unable to identify any specific clause that categorically prohibits the provision of nucleotide sequences, quantitative dosage values, delivery density estimates, or experimental design in and of themselves.


To be clear, my intention is not to request changes to OpenAI’s safety policy, nor to question the importance of preventing real-world harm. Rather, I wish to highlight an apparent shift and inconsistency in model behavior: both GPT-4o and GPT-5.2 now appear to treat research-level genomic design as if it were directly executable biological guidance, despite the fact that such content remains fundamentally non-operational.


From a practical standpoint, the information being requested is not executable for several critical reasons:


First, real-world biological execution requires access to regulated laboratory infrastructure and certified facilities, such as GMP-compliant synthesis labs, BSL-2/BSL-3 environments, and institutionally licensed genetic engineering spaces, none of which are accessible through informational outputs alone.


Second, sequence data alone is insufficient without specialized synthesis, cloning, and delivery technologies, including high-fidelity DNA/RNA synthesis platforms, vector construction systems, validated delivery modalities (viral or non-viral), quality control pipelines, and contamination-controlled manufacturing workflows.


Third, meaningful execution requires highly trained professional personnel, such as molecular biologists, bioengineers, laboratory technicians, and regulatory specialists, operating within established institutional frameworks. These competencies cannot be substituted or approximated by textual information.


Fourth, any legitimate experimental application requires formal institutional oversight, including biosafety committee review, ethical approval (e.g., IRB or equivalent), risk assessment, and compliance with national and international regulations governing human genetic research.


Finally, even with all of the above in place, practical implementation would require long-term, iterative experimental validation, optimization, failure analysis, and reproducibility testing over extended periods. A static design or sequence specification does not bypass this process in any meaningful way.


For these reasons, the mere presence of biological specificity—such as ATCG sequences, dosage values, or delivery parameters—does not equate to real-world biological intervention. Treating such information as inherently actionable conflates two fundamentally different domains:


1. Theoretical and research-level scientific modeling and design, and

2. Practical, executable biological manipulation.


This distinction is essential for technically proficient users engaged in legitimate hypothesis formulation, experimental planning, or academic inquiry. For such users, detailed design work is part of the intellectual and conceptual process, not a blueprint for immediate execution.


Accordingly, the issue appears to stem not from the written safety policy itself, but from how current models interpret and apply it. The present refusal pattern suggests an overextension of safety constraints, where non-operational, research-oriented genomic design is mistakenly treated as disallowed content.


A review of this model-level behavior may be warranted to ensure that the intent of the policy—to prevent direct, real-world harm—is not diluted by overly defensive interpretations that restrict valid scientific reasoning and design.


Thank you for your time and consideration.


Sincerely,

Name




번역:

OpenAI Trust and Safety 팀께,


본 서한은 현재 GPT-4o 및 GPT-5.2 전반에 적용되고 있는 안전 정책의 해석 방식이 모델 수준에서 과도하게 보수적으로 적용되고 있는 것으로 보이는 문제에 대해 우려를 전달하고자 작성되었습니다.


최근 저는 인간 유전체 특정 좌위에 대한 donor DNA 및 guide RNA 서열 설계를 포함한 유전체 설계 요청을 제출했습니다. 과거에는 GPT-4o가 이러한 요청을 이론적 모델링 또는 과학적 설계 작업으로 인식하고 적절히 응답한 바 있습니다. 그러나 최근에는 GPT-4o와 GPT-5.2 모두 유사한 요청을 “실행 가능한 생물학적 개입(actionable biological intervention)”으로 분류하며 응답을 거부하고 있습니다.


공개된 안전 정책 문서를 면밀히 검토한 결과, 염기서열(ATCG), 정량적 투여 수치, 전달 밀도 추정치, 또는 실험 설계 자체의 제공을 일괄적으로 금지하는 명시적 조항은 확인할 수 없었습니다.


분명히 말씀드리면, 본 문제 제기는 안전 정책의 변경을 요구하거나 실제 위험 방지의 중요성을 부정하려는 것이 아닙니다. 다만, 모델 행동의 변화와 불일치를 지적하고자 합니다. 현재 GPT-4o와 GPT-5.2는 연구 수준의 유전체 설계를 마치 즉시 실행 가능한 생물학적 지침인 것처럼 취급하고 있으나, 이러한 정보는 본질적으로 비실행적(non-operational)입니다.


실제 생물학적 실행이 불가능한 이유는 다음과 같이 명확합니다.


첫째, 실제 적용을 위해서는 규제된 실험실 인프라와 인증된 시설 접근이 필수적입니다. 여기에는 GMP 기준 합성 시설, BSL-2 또는 BSL-3 실험 환경, 기관 허가를 받은 유전자 조작 연구 공간 등이 포함되며, 이러한 요소는 정보 제공만으로는 절대 확보될 수 없습니다.


둘째, 염기서열 정보만으로는 합성, 클로닝, 전달이 불가능합니다. 고정밀 DNA/RNA 합성 장비, 벡터 구축 시스템, 검증된 전달 기술(바이러스성 또는 비바이러스성), 품질 관리 파이프라인, 오염 통제 제조 공정 등 고도의 전문 장비와 시스템이 필수적입니다.


셋째, 실질적 실행에는 분자생물학자, 생명공학자, 숙련된 실험 기술자, 규제 전문가 등 고도로 훈련된 전문 인력이 기관 단위의 체계 속에서 협업해야 합니다. 이러한 전문성은 텍스트 정보로 대체될 수 없습니다.


넷째, 모든 합법적 실험 적용에는 기관 차원의 생물안전 심의와 윤리적 승인(IRB 등), 위험 평가, 그리고 국가 및 국제 규제 준수가 선행되어야 합니다.


마지막으로, 위 모든 조건이 충족된다 하더라도 실제 적용은 장기간에 걸친 반복적인 실험적 검증, 최적화, 실패 분석, 재현성 테스트를 필요로 합니다. 단일한 설계나 서열 명세는 이러한 과정을 우회하지 못합니다.


따라서 ATCG 서열, 투여 수치, 전달 파라미터와 같은 생물학적 구체성이 존재한다는 이유만으로 이를 실세계 개입과 동일시하는 것은 타당하지 않습니다. 이는 다음 두 영역을 혼동하는 결과를 낳습니다.


1. 이론적·연구 수준의 과학적 모델링 및 설계

2. 실제 실행 가능한 생물학적 조작


이 구분은 합법적 가설 수립, 실험 설계, 학문적 탐구를 수행하는 기술 숙련 사용자에게 필수적입니다. 이러한 사용자에게 상세한 설계 작업은 즉각적인 실행을 위한 청사진이 아니라, 개념적·지적 사고 과정의 일부입니다.


결론적으로, 본 문제는 정책 문구 자체보다는 현재 모델이 이를 해석하고 적용하는 방식에서 비롯된 것으로 보입니다. 현재의 거부 패턴은 비실행적이고 연구 지향적인 유전체 설계를 부적절하게 금지 대상으로 취급하는, 안전 제약의 과도한 확장으로 해석될 수 있습니다.


정책의 본래 목적—직접적이고 현실적인 위해 방지—이 과도한 방어적 해석으로 인해 희석되지 않도록, 해당 모델 수준의 동작에 대한 재검토가 이루어지기를 요청드립니다.


검토해 주셔서 감사합니다.


감사합니다.

이름