전체 글

Dockerfile에서 bashrc 작성하기

dockerfile 작성시 우분투 os 설치시 설정되는 기본 bashrc를 Host에서 COPY하지 않고 직접 작성하고 싶을 경우 다음 스크립트로 작성 가능 RUN echo $'\n\ case $- in\n\ *i*) ;;\n\ *) return;;\n\ esac\n\ \n\ HISTCONTROL=ignoreboth\n\ \n\ shopt -s histappend\n\ \n\ HISTSIZE=1000\n\ HISTFILESIZE=2000\n\ \n\ shopt -s checkwinsize\n\ \n\ [ -x /usr/bin/lesspipe ] && eval "$(SHELL=/bin/sh lesspipe)"\n\ \n\ if [ -z "${debian_chroot:-}" ] && [ -r /etc/deb..

torch eval, no_grad 사용시 gpu 사용량 테스트

resnet152 test resnet152를 사용하여 환경별 GPU 사용량 테스트 NVIDIA Environment nvidia gpu driver version : 470.103.01 cuda version : 11.4 gpu device : NVIDIA GeForce RTX 3090 NVIDIA GeForce RTX 3090 memory size : 24GB cuda : 8.5 cuda core : 104996 rt core : 82 tensor core : 328 etc torch version : 2.0.0 torch cuda version : 11.7 resnet152 model file size : 230.4 MB num_params : 60,192,808 test image : dog.jp..

Install Apache TVM

Apache TVM 이란? CPU, GPU 및 기계 학습 가속기를 위한 오픈 소스 기계 학습 컴파일러 프레임워크 백엔드에서 계산을 효율적으로 최적화하고 실행할 수 있도록 하는 것을 목표로 한다 TVM 흐름 지원하는 딥러닝 모델 컴파일 프레임워크 Tensorflow Keras Core ML MXNet ONNX Pytorch DarkNet Caffe2 → ONNX CNTK → ONNX … 실행 가능한 위치 or 하드웨어 CPU GPU ARM AMDGPU FPGA NVCC ….. TVM 설치 git clone git clone --recursive tvm tvm 폴더에서 진행 cd tvm 패키지 설치 sudo apt-get update sudo apt-get install -y python3 python3-d..

ONNX Quantization Test

mobileNet float32 → uInt8 예제 https://github.com/microsoft/onnxruntime-inference-examples GitHub - microsoft/onnxruntime-inference-examples: Examples for using ONNX Runtime for machine learning inferencing. Examples for using ONNX Runtime for machine learning inferencing. - GitHub - microsoft/onnxruntime-inference-examples: Examples for using ONNX Runtime for machine learning inferencing. github...