计科基础 工具总结和环境配置

Posted by SunQH Blog on January 20, 2021

环境搭建

每次跑别人代码的时候,需要先用conda新建一个相同的环境以减少版本错误的出现,如:

1
conda create -n MDL4OW tensorflow-gpu==1.9 keras==2.1.6   Python=3.6 

优秀的package

Linux

tldr-命令行说明简化工具

安装方式:

1
npm install -g tldr

使用方式:

1
tldr <commend>

文件同步

如何使用Pycharm自动同步本地和远程服务器项目代码以及远程运行程序 访问远程Visdom

尝试:

  1. 在pycharm上进行结构构件, 在pycharm-jupyter上进行变量间跳转等操作
  2. 在网页jupyter进行jupyter程序条理性的笔记及运行结果
  3. 如果有问题使用jupyterlab或者改为pycharm文件进行调试.

Python package文件

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
import csv
import os
from time import time
from tqdm import tqdm
import numpy as np
import pandas as pd

import torch as t
import torch.nn as nn

import matplotlib.pyplot as plt
plt.style.use('seaborn') # 设置使用的样式

from utils_my import crash_on_ipy
crash_on_ipy()

Plot package

1
2
3
4
import matplotlib.pyplot as plt
plt.style.use('seaborn') # 设置使用的样式
# plt.style.use(['science', 'no-latex'])
# %config InlineBackend.figure_format = 'svg'

sklearn package

1
 

Keras package

1
2
3
4
5
6
7
import keras
from keras.layers import Conv2D, Conv3D, Flatten, Dense, Reshape, BatchNormalization
from keras.layers import Dropout, Input
from keras.models import Model
from keras.optimizers import Adam
from keras.callbacks import ModelCheckpoint
from keras.utils import np_utils

HSI package

1
2
3
4
import scipy.io as sio
import spectral

from operator import truediv

Add my package

1
2
3
4
5
import sys
sys.path.append("/mnt/StuFile/Sqh")
from utils_my import HSI_preprocess as hsipre
help(hsipre)

Markdown 技巧

README 书写

1
tree -I node_modules > tree.text

Codeing 技巧

原理类

pythontutor-内存可视化

Git 技巧

问题解决

git恢复

git恢复到上次提交

存在代理占用端口时git的connection refused的错误的解决

解决git下载出现:Failed to connect to 127.0.0.1 port 1080: Connection refused拒绝连接错误

1
2
3
4
5
6
7
# 查询
git config --global http.proxy 
env|grep -I proxy

# 取消代理设置
git config --global --unset http.proxy
git config --global --unset https.proxy

GPU可用性检测

tf:

1
2
3
import tensorflow
print(tensorflow.test.is_gpu_available())
tf.config.list_physical_devices('GPU')
1
2
import tensorflow as tf
tf.test.gpu_device_name()

torch:

1
2
import torch
torch.zeros(1).cuda()

显示显卡信息:

1
watch -n 1 nvidia-smi

linux 相关

进入桌面

sudo service lightdm start

ubuntu20.04,Cuda11.0,需要安装1.9版本的

TensorFlow版本

image-20210426151025061

Windows配置

cuda

Windows系统CUDA10.2+CUDNN安装教程

windows版top

1
While(1) {ps | sort -des cpu | select -f 15 | ft -a; sleep 1; cls}

报错解决

cuda版本升级 - cuda11安装使用

安装30系列显卡后,继续使用cuda10会出现问题,由于显卡架构原因需要升级cuda版本为11.0及以上。报错:

1
GeForce RTX 3080 with CUDA capability sm_86 is not compatible with the current PyTorch installation. The current PyTorch install supports CUDA capabilities sm_37 sm_50 sm_60 sm_61 sm_70 sm_75 compute_37.

系统版本:ubuntu20.04

  1. Nvidia官网下载最新显卡驱动

    Ubuntu20.04上3090显卡安装Nvidia驱动和CUDA11.1及cuDNN8.0.4

  2. 下载合适的cuda版本,我下的11.0

  3. 下载对应的cudnn版本,我的为8.0.5

  4. 测试是否成功

  5. 安装需要的框架:

TensorFlow:

1
pip install tensorflow==2.4.0rc0 -i https://pypi.doubanio.com/simple/ #GPU版本的,如果下载慢建议换源

Pytorch:

1
conda install pytorch torchvision torchaudio cudatoolkit=11.0 -c pytorch

cuda驱动安装

报错:

1
Failed to initialize the CUDA platform: CudaError: The driver version is too low (error 30). Bminer requires 375.26 or later to work 

用cuda() 时:

1
RuntimeError: CUDA unknown error - this may be due to an incorrectly set up environment, e.g. changing env variable CUDA_VISIBLE_DEVICES after program start. Setting the available devices to be zero.

mac 软件问题

image-20210426105851885