企业信用系统行政处罚可以通过合法的方式进行消除。

在得到行政处罚决定书后，企业可以选择尽快按照决定书要求进行整改，并在规定时间内完成整改，并提交整改报告。

如果整改合格，可以申请行政复议或者起诉行政处罚决定。

在最终被撤销处罚的情况下，企业在信用记录中的处罚信息也会相应的消除。

此外，企业还可以通过定期参加各类执法培训等方式，提高自身遵纪守法意识和能力，预防和避免再次受到行政处罚的惩罚。