Thanks to visit codestin.com
Credit goes to github.com

Skip to content

关于后训练量化的疑惑,真真诚诚希望得到解答 #102

@JoeYounger

Description

@JoeYounger

您好,对您的工作表示祝贺,实在太赞了。我是名刚接触量化的萌新,最近需要实现低比特的后训练量化PTQ,由于知识有限,有两个疑问非常希望得到您的解答:
1.是只有iao才支持PTQ吗?
2.readme提到的“加载剪枝后的模型再做量化”中的量化指的是QWT还是PTQ呢?
2.我期望做低精度的PTQ(2~5bit),请问可以迁移您的工作以实现吗?还是说PTQ 只支持8bit的量化呢?
再次感谢您的工作!!!

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions