생성형AI 썸네일형 리스트형 챗GPT 거짓 정보 걸러내는 법 — AI 환각 확인 4단계 AI가 자주 지어내는 다섯 가지 [01]유형내용① 숫자통계·비율·금액을 그럴듯하게 만듭니다② 출처없는 논문·기사·보고서를 인용합니다③ 법 조문조문 번호와 내용이 맞지 않습니다④ 인용문한 적 없는 말을 누군가의 발언으로⑤ 기능·명령어존재하지 않는 함수나 설정을 안내공통점이 있습니다. 모두 '구체적이어서 믿음이 가는' 형태입니다. "2024년 기준 37.2%"처럼 정확해 보입니다. 그래서 확인 없이 그대로 쓰게 됩니다.가장 자주 겪는 두 가지출처가 첫 번째입니다. 존재하지 않는 논문 제목과 저자, 없는 보고서 이름이 그럴듯하게 나옵니다. 검색해 보면 안 나옵니다.법 조문이 두 번째입니다. 조문 번호는 실제로 있는데 내용이 다르거나, 내용은 맞는데 번호가 틀린 경우가 많습니다.법 조문은 반드시 국가법령정보센터.. 더보기 AI 그림·글 저작권 누구 것 — 상업적 사용 가능 여부 정리 구분해야 할 세 가지 문제 [01]이 주제가 헷갈리는 이유는 서로 다른 세 가지 문제가 섞여 있기 때문입니다.질문정하는 것① 저작권이 생기는가법② 내가 써도 되는가서비스 약관③ 남의 권리를 침해하는가별개의 위험"저작권이 없으니 아무나 써도 된다"는 말이 돕니다. 그런데 ①과 ②는 층위가 다릅니다. 저작권이 발생하지 않아도 약관상 이용은 가능할 수 있습니다.저작권이 생기는가저작권 발생 여부 [02]저작권법은 저작물을 "인간의 사상 또는 감정을 표현한 창작물"로 정의합니다.핵심은 '인간'입니다. 그래서 AI가 단독으로 만든 결과물은 저작물로 보기 어렵다는 견해가 일반적입니다.미국 저작권청도 인간 저작자 요건을 요구하는 입장을 밝힌 바 있습니다. 국내에서도 비슷한 방향의 논의가 이어지고 있습니다.그런데 경계가.. 더보기 챗GPT에 소스코드 넣으면 안 되는 이유 — 영업비밀 보호 요건 영업비밀이 되려면 세 가지가 필요합니다영업비밀의 세 가지 요건 [01]부정경쟁방지 및 영업비밀보호에 관한 법률은 영업비밀을 이렇게 정의합니다.요건내용① 비공지성공공연히 알려져 있지 않을 것② 경제적 유용성독립된 경제적 가치를 가질 것③ 비밀관리성비밀로 관리되고 있을 것셋 중 하나라도 빠지면 영업비밀로 인정받지 못합니다. 그러면 유출돼도 이 법으로 보호받기 어렵습니다.많은 분이 오해하는 부분"우리 회사 중요한 자료니까 당연히 영업비밀"이라고 생각하기 쉽습니다. 그렇지 않습니다.중요하다는 것만으로는 부족합니다. 실제로 비밀로 관리했다는 사실이 인정돼야 합니다. 그리고 그 입증 책임은 회사에 있습니다.AI가 깨뜨리는 것은 무엇인가AI 입력으로 무너지는 지점 [02]③번 비밀관리성입니다.시점상태입력 전사내 서버.. 더보기 사내 AI 사용 지침 만드는 법 — 필수 항목 6가지와 작성 순서 사용법 — 아래 굵은 선 아래부터 끝까지 복사해 티스토리 글쓰기에 붙여넣으세요.제목: 사내 AI 사용 지침, 이렇게 만듭니다 — 여섯 항목과 작성 절차본문에 h1 제목이 없으므로 티스토리 제목과 중복되지 않습니다.앞선 글에서 회사 문서를 외부 AI에 넣을 때의 위험을 정리했습니다. 그런데 개인이 조심하는 것으로는 한계가 있습니다.조직 차원의 기준이 필요합니다. 이 글에서는 사내 AI 사용 지침을 어떻게 만드는지 정리하겠습니다.목차1. 왜 지침이 필요한가2. 지침에 들어갈 여섯 가지3. 데이터 등급이 핵심입니다4. 도구를 정해 주십시오5. 이 순서로 만드십시오6. 지침이 실패하는 이유7. 자주 묻는 질문왜 지침이 필요한가많은 조직이 두 가지 중 하나를 택합니다.방식결과전면 금지직원이 개인 기기로 씁니다방치.. 더보기 챗GPT에 회사 문서 넣어도 될까 — 개인정보·영업비밀 기준 업무 중에 이런 순간이 있습니다. 보고서 초안을 다듬어야 하는데 시간이 없고, 계약서 조항이 이해가 안 되고, 엑셀 함수가 안 먹습니다.그때 손이 챗GPT로 갑니다. 그리고 문서를 통째로 복사해 붙여넣습니다.이 글은 그 순간에 무엇을 따져봐야 하는지 정리한 것입니다.목차1. 무엇이 문제인가2. 법으로 보면 어떻게 되나3. 넣어도 되는 것과 안 되는 것4. 그래도 쓰고 싶다면5. 회사가 해야 할 일6. 자주 묻는 질문무엇이 문제인가외부 AI 서비스 이용 시 위험 요소 [01]문제는 세 갈래입니다.구분내용① 기록이 남는다서비스 서버에 대화 내용이 저장될 수 있습니다② 학습에 쓰일 수 있다설정에 따라 모델 개선에 활용됩니다③ 외부로 나갔다회사 통제 밖으로 정보가 이동했습니다가장 중요한 것은 세 번째입니다많은 .. 더보기 AI 챗봇·생성형 AI 도입 전 개인정보 체크리스트 다섯 가지 AI 챗봇·생성형 AI 도입 전 개인정보 체크리스트 다섯 가지고객 문의 응대에 챗봇을 붙이거나, 사내 업무에 생성형 AI를 도입하는 조직이 빠르게 늘고 있습니다. 그런데 개인정보 관점에서 검토하지 않고 도입하는 경우가 대부분입니다.이 글에서는 도입 전에 반드시 확인해야 할 다섯 가지를 정리하겠습니다.목차1. 왜 AI가 특별히 문제인가2. 도입 전 확인할 다섯 가지3. 외부 AI API를 쓴다면4. 자유 입력창이 가장 위험합니다5. 계약서에 넣어야 할 것6. 자동화된 결정 문제7. 점검 체크리스트왜 AI가 특별히 문제인가기존 시스템과 다른 점이 몇 가지 있습니다.특징위험자유 입력무엇이 들어갈지 통제하기 어려움외부 API 의존데이터가 외부로 나감학습 가능성입력한 데이터가 모델에 남을 수 있음블랙박스왜 그런 .. 더보기 이전 1 다음
