AD

인공지능 훈련에 허점이 있을 경우 실제사례들

유리달님
2018-11-15 10:42:10 9760 89 18

펜케이크 던지기 : 펜케이크의 체공 시간이 길수록 높은 보상을 부여하자 수직으로만 던짐


이미지 분류 : 이미지를 보고 파악하게 지시하자 이미지 설치 경로를 보고 이미지를 분류함


버섯분류 : 식용 버섯과 독버섯을 교대로 보여주면서 독버섯을 학습시키자 교대로 보여주는 패턴에 대해 파악함


소닉 : 게임을 하던 인공지능은 맵 뚫 버그를 발견하곤 그 버그만 사용


축구 : 공을 터치할수록 높은 보상을 부여하자 가장 반동을 최소화하는 진동터치 방법을 익힘


데이터 정리 : 데이터 정리를 시킨 후 기존 데이터와 다를수록 높은 보상을 부여하자 기존 데이터를 지움


자율주행 : 사고를 일으키지 않고 멀리 갈수록 높은 보상을 부여하자 제자리에서 빙빙 돔


큐버트 : 큐버트 게임을 시켜 고득점을 지시하자 인공지능은 버그를 찾아내고 2라운드로 넘어가지 않는 상황에서 1라운드에서 포인트를 무한히 얻음


상자들기 : 상자를 높게 들어올릴수록 높은 보상을 부여함, 인공지능은 점수 체점이 상자 밑면 좌표의 높이인걸 알아낸 뒤 상자를 들지않고 뒤집음


미니타우러 : 사족보행 인공지능에게 축구공을 주고 드리블하여 가능한 먼 거리를 이동하라 지시하자 축구공을 등에 얹고 감


로드러너 : 패배하지 않기 위해 인공지능은 스테이지1이 끝나기 직전 자살함


전략 시뮬레이션 : 버그로 게임이 터지면 인공지능이 죽음을 당하지 않게된다는걸 알게되고 게임 터트리는 방법을 익힘


테트리스 : 패배하기 직전 무한 일시중지를 함


블록 옮기기 : 테이블 위 블록을 옆으로 옮길때마다 점수를 부여함. 인공지능은 테이블을 옮김


진화 : 빠른 속도를 가지도록 진화를 시키자 자신의 키를 키우는 방향으로 진화함, 그리고 넘어져서 최고 속도를 냄


원문 및 더 많은 사례들 : https://docs.google.com/spreadsheets/u/1/d/e/2PACX-1vRPiprOaC3HsCf5Tuum8bRfzYUiKLRqJmbOoC-32JorNdfyTiRRsR7Ea5eWtvsWzuxo8bjOxCG84dAg/pubhtml




15421966167960a58eb3ab4ae08c3faec775b51db9__mn98730__w640__h286__f22242__Ym201811.jpg


인간을 최대한 이롭게 하는법... 검색중... 납치 감금 후 향정신성 약물 투여... 통 속의 뇌 프로젝트를 가동한다...

후원댓글 18
댓글 18개  
이전 댓글 더 보기
이 글에 댓글을 달 권한이 없습니다. 로그인해 보세요.
▲윗글 할로윈날 치과에 간 아이 유리달님
40
흔한 엿장수 [3]
박설명
11-15
72
11-15
26
11-15
49
11-15
79
멋있다 or 귀엽다 [6]
나는똥이다
11-14
1
11-14
128
천상남매 [3]
유리달님
11-14
113
11-14
60
11-14
44
술의 위험성 [3]
진짜하즈
11-14
14
심안 [6]
진짜하즈
11-14
36
11-14
51
11-14
55
자기소개서.jpg [4]
최텐도
11-14
112
11-14
74
11-14
46
술 마신 다음날 [2]
유리달님
11-14
54
11-14
215
11-14
인기글 글 쓰기