Qualcomm Aimet කාර්යක්ෂමතා මෙවලම් කට්ටලය ලේඛන උපදෙස්

KBA-231226181840

1. පරිසරය සැකසීම

1.1 Nvidia Driver සහ CUDA ස්ථාපනය කරන්න

1.2 සම්බන්ධිත පයිතන් පුස්තකාලය ස්ථාපනය කරන්න

python3 -m pip install –upgrade –ignore-installed pip
python3 -m pip install –ignore-installed gdown
python3 -m pip install -ignore-installed opencv-python
python3 -m pip install –ignore-installed torch==1.9.1+cu111 torchvision==0.10.1+cu111 torchaudio==0.9.1 -f https://download.pytorch.org/whl/torch_stable.html
python3 -m pip install –ignore-installed jax
python3 -m pip install –ignore-installed ftfy
python3 -m pip install -ignore-installed torchinfo
python3 -m pip install –ignore-installed https://github.com/quic/aimet/releases/download/1.25.0/AimetCommon-torch_gpu_1.25.0-cp38-cp38-linux_x86_64.whl
python3 -m pip install –ignore-installed https://github.com/quic/aimet/releases/download/1.25.0/AimetTorch-torch_gpu_1.25.0-cp38-cp38-linux_x86_64.whl
python3 -m pip install –ignore-installed numpy==1.21.6
python3 -m pip install -ignore-installed psutil

1.3 Clone aimet-model-zoo

git ක්ලෝනය https://github.com/quic/aimet-model-zoo.git
cd aimet-model-zoo
git checkout d09d2b0404d10f71a7640a87e9d5e5257b028802
අපනයනය PYTHONPATH=${PYTHONPATH}:${PWD}

1.4 Set14 බාගන්න

wget https://uofi.box.com/shared/static/igsnfieh4lz68l926l8xbklwsnnk8we9.zip
unzip igsnfieh4lz68l926l8xbklwsnnk8we9.zip

1.5 රේඛාව 39 aimet-model-zoo/aimet_zoo_torch/quicksrnet/dataloader/utils.py වෙනස් කරන්න

වෙනස් කිරීම
glob.glob හි img_path සඳහා (os.path.join(test_images_dir, "*")):
දක්වා
glob.glob හි img_path සඳහා (os.path.join(test_images_dir, “*_HR.*”)):

1.6 ධාවන ඇගයීම.

# YOURPATH/aimet-model-run යටතේ ධාවනය කරන්න
# Quicksrnet_small_2x_w8a8 සඳහා
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
–model-config quicksrnet_small_2x_w8a8 \
-dataset-path ../Set14/image_SRF_4

# Quicksrnet_small_4x_w8a8 සඳහා
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
–model-config quicksrnet_small_4x_w8a8 \
-dataset-path ../Set14/image_SRF_4

# Quicksrnet_medium_2x_w8a8 සඳහා
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
–model-config quicksrnet_medium_2x_w8a8 \
-dataset-path ../Set14/image_SRF_4

# Quicksrnet_medium_4x_w8a8 සඳහා
python3 aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py \
–model-config quicksrnet_medium_4x_w8a8 \
-dataset-path ../Set14/image_SRF_4

ඉලක්ක අනුකරණය කළ ආකෘතිය සඳහා ඔබට PSNR අගය ලැබෙනු ඇතැයි සිතමු. QuickSRNet හි විවිධ ප්‍රමාණයන් සඳහා ඔබට ආකෘති-වින්‍යාසය වෙනස් කළ හැකිය, විකල්පය underaimet-modelzoo/aimet_zoo_torch/quicksrnet/model/model_cards/ වේ.

2 පැච් එකතු කරන්න

2.1 "ONNX වෙත අපනයනය කරන්න පියවර REVISED.docx" විවෘත කරන්න

2.2 Git commit id මඟ හරින්න

2.3 1 වන වගන්තිය කේතය

අවසාන පේළිය යටතේ සම්පූර්ණ 1. කේතය එක් කරන්න (366 පේළියට පසුව) aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/models.py

2.4 2 සහ 3 වගන්තිය

2 aimet-model-zoo/aimet_zoo_torch/quicksrnet/evaluators/quicksrnet_quanteval.py යටතේ සම්පූර්ණ 3, 93 කේතය එක් කරන්න

2.5 Function load_model හි ප්‍රධාන පරාමිතීන්

ආකෘතිය = load_model(MODEL_PATH_INT8,

MODEL_NAME,
MODEL_ARGS.get(MODEL_NAME).get(MODEL_CONFIG),
use_quant_sim_model=ඇත්ත,
encoding_path=ENCODING_PATH,
quantsim_config_path=CONFIG_PATH,
calibration_data=IMAGES_LR,
use_cuda=ඇත්ත,
before_quantization=සත්‍ය,
convert_to_dcr=ඇත්ත)

MODEL_PATH_INT8 = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/pre_opt_weights
MODEL_NAME = QuickSRNetSmall
MODEL_ARGS.get(MODEL_NAME).get(MODEL_CONFIG) = {'scaling_factor': 2}
ENCODING_PATH = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/adaround_encodings
CONFIG_PATH = aimet_zoo_torch/quicksrnet/model/weights/quicksrnet_small_2x_w8a8/aimet_config

QuickSRNet හි විවිධ ප්‍රමාණයන් සඳහා කරුණාකර විචල්‍ය ප්‍රතිස්ථාපනය කරන්න

2.6 මාදිලියේ ප්‍රමාණය වෙනස් කිරීම

1. aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/model_cards/*.json තුළ “input_shape”
2. ඇතුළත ශ්‍රිතය load_model(...) aimet-model-zoo/aimet_zoo_torch/quicksrnet/model/inference.py හි
3. “ONNX වෙත අපනයනය කරන්න පියවර REVISED.docx” වෙතින් export_to_onnx(..., input_height, input_width) ශ්‍රිතය ඇතුළත පරාමිතිය

2.7 ONNX ආකෘතිය අපනයනය කිරීම සඳහා 1.6 නැවත ධාවනය කරන්න

3. SNPE තුළ පරිවර්තනය කරන්න

3.1 පරිවර්තනය කරන්න

${SNPE_ROOT}/bin/x86_64-linux-clang/snpe-onnx-to-dlc \
–input_network model.onnx \
-quantization_overrides ./model.encodings

3.2 (විකල්ප) උපුටා ගැනීම ප්‍රමාණාත්මක DLC පමණි

(විකල්ප) snpe-dlc-quant –input_dlc model.dlc –float_fallback –override_params

3.3 (වැදගත්) ONNX I/O NCHW අනුපිළිවෙලට; පරිවර්තනය කරන ලද DLC NHWC පිළිවෙලට ඇත

ලේඛන / සම්පත්

Qualcomm Aimet කාර්යක්ෂමතා මෙවලම් කට්ටලය ලේඛනගත කිරීම [pdf] උපදෙස් quicksrnet_small_2x_w8a8, quicksrnet_small_4x_w8a8, quicksrnet_medium_2x_w8a8, quicksrnet_medium_4x_w8a8, Aimet Efficiency Toolkit Documentation, Efficiency Toolkit Documentation, Documentation, Documentation

යොමු කිරීම්

• පරිශීලක අත්පොත