Ideas & study 10

3D Robot Pose & Human Pose Estimation for collision avoidance : Intravitreal injection

전체적인 파이프라인을 보자면1. 카메라 좌표계로 로봇의 자세를 추정, 팬텀에 있는 트로카를 비전으로 탐색 및 좌표 추정 -> 로봇의 EE가 트로카의 좌표에 맞게 들어가도록 함(좌표값 주면 들어갈 듯) 아루코 마커를 활용하여 레이블을 만드는 과정인데, 정확도가 너무 떨어짐2. 로봇의 EE를 탐색하는 방법 탐색 (초기에는 매뉴얼하게 링크를 추가 -> 추후에는 모델로 탐색)3. 로봇과 사람의 손의 관절(mediapipe)을 탐색하는 알고리즘으로 충돌을 예측할 수 있음4. 회피하는 알고리즘을 만들어야 함5. 또는 이를 적극 활용하여 OCE를 부착하여 얼굴에 있는 피부를 탐색할 수 있음(피부검사) https://drive.google.com/file/d/1DmE5HVEM-mSBod1YPFAg6BE5QyQ1h0Y_..

3D Robot Pose Estimation: Camera Space - Joint Coordinate

카메라로 촬영된 영상[Multi-view]을 기준으로 로봇의 위치를 찾아내고 각 관절에 해당하는 위치를 카메라 좌표계 기준으로 3차원으로 표현하는 방법에 대한 연구다.전체적인 흐름을 보면, 1. 이미지에서 로봇 탐색 [object detection]2. box crop 이후 로봇의 관절 위치 탐색 [2D joint detection]3. 2차원 관절 위치를 카메라 좌표계의 3차원으로 표현 [3D joint reconstruction]이후 얻어낸 로봇의 좌표와 사람의 손 또는 물체의 주요 좌표와 거리를 비교하여 충돌 가능성이 높을 시 로봇의 움직임 속도를 조절하여 충돌 방지 시스템으로 사용될 예정이다.충돌에 대한 여부로 추론하는 것이 아닌, 충돌 가능성이 있는 물체와의 정확한 거리를 추정하는 것을 목표로 ..

[Paper Survey]Robot pose estimation 논문 정리

Robot pose estimation의 벤치마크 데이터 셋은 paperswithcode에 DREAM-dataset만이 올라와있어서 이 데이터셋을 기준으로 작성된 논문을 기준으로 정리해보았습니다.DREAM - Camera-to-Robot Pose Estimation from a Single Image(2020.04)https://github.com/NVlabs/DREAMRoboPose - Single-view robot pose and joint angle estimation via render & compare(2021.04)https://github.com/ylabbe/roboposeCtRNet - Markerless Camera-to-Robot Pose Estimation via Self-super..

[논문리뷰]RoboPEPP: Vision-Based Robot Pose and Joint Angle Estimation through Embedding Predictive Pre-Training

[논문리뷰]RoboPEPP: Vision-Based Robot Pose and Joint Angle Estimation through Embedding Predictive Pre-Training해당 논문은 Real-time Holistic Robot Pose Estimation with Unknown States를 참조하여 작성된 내용이 많으므로 읽어보는걸 추천함Self-Supervised Learning(자기 지도 학습)에 대한 내용은 Self-Supervised Learning from Images with a Joint-Embedding Predictive Architecture를 참고하는 것을 추천함 0. 요약RGB 이미지만으로 로봇 관절의 자세와 각도를 추정하는 모델을 개발함ROI(Reason ..

Search about Human AI Interaction (+robot)

HAI 수업에서 이와 관련된 논문을 찾아서 발표하는 수업이 진행이 된다. Human Ai Interaction에도 관련이 있고 Robotics와 도 관련된 것을 쓰고 싶어서 찾고 있는데 쉽지 않다. 찾는 과정에서 좋은 내용이 있던 논문들을 간단하게 적어보고자 한다.일단 주로 찾은 컨퍼런스는 Human Factors in Computing Systems, User Interface Software and Technology, Computer-Supported Cooperative Work and Social Computing, Intelligent User Interfaces 이렇게 네개의 컨퍼런스에서 발표된 논문을 찾았다. 내가 찾은 내용은 대부분 첫번째에 언급한 컨퍼런스에서 나왔다.1. How to C..