본문 바로가기

Memory

(2)

[PyTorch] 1.8 release와 함께 GPU memory fraction 이 지원됩니다. - torch.cuda.set_per_process_memory_fraction 인공지능할때 GPU 메모리를 나눠쓰고 싶어요. AI 서비스를 운영하려고 하면, GPU 메모리를 나눠써야 하는 경우가 있다. 관련링크 : [kubernetes] Extended Resource로 나만의 리소스 제약 (request, limit) 만들어서 사용하기 - GPU RAM 나눠쓰기 예전글에 적었다시피, 운영하는 장비의 GPU memory이 너무 큰데 한놈이 다 쓴다거나, 혹은 한 놈이 비정상적 동작으로 인해서 GPU memory를 너무 많이 쓴다면 다른 애들에 문제가 생길거다. Tensorflow 에서는 나눠쓰는것을 옛날부터 지원했다. tensorflow에서는 1.x 대 부터 per_process_gpu_memory_fraction 를 사용해서 process당 사용할 수 있는 GPU 메모리를 지정할..
[Java/Tip] String.intern()은 메모리를 아낄 수 있다? 카페에 적었던글을 다시 옮겨 둡니다. ---- 안녕하세요. 찬 입니다. 오늘도 기초시리즈. String의 intern()에 대해서 이야기 해 보도록 하죠. intern() 에 대해서 알기 위해서는, 우선 String 자체에 대해서 좀 알아 봐야 합니다. String str1 = "Hello"; String str2 = "Hello"; String str3 = "Hello"; 이렇게 해 두면 str1과 str2와 str3는 모두 하나의 객체를 가리키고 있습니다. 왜 그런지 알아 봅시다. .java파일을 컴파일 하게 되면, .class파일이 만들어 지게 됩니다. .class 파일 안에는 현재 클래스의 정보가 들어있게 되겠지요. complie할때에 이미 저 문자를 사용해야 한다는것을 알수 있기 때문에 .cla..