行政机关调查违法案件时，必须全面、客观、公正地调查，然后收集有关证据；而且在收集证据时，可以采取抽样取证的方法，在证据可能灭失或者以后难以取得的情况下，经行政机关负责人批准，可以先行登记保存，并应当在七日内及时作出处理决定，在此期间，当事人或者有关人员不得销毁或者转移证据。

　　行政处罚是指行政主体依照法定职权和程序对违反行政法规范，尚未构成犯罪的相对人给予行政制裁的具体行政行为。行政处罚特征是：实施行政处罚的主体是作为行政主体的行政机关和法律法规授权的组织；行政处罚的对象是实施了违反行政法律规范行为的公民、法人或其他组织；行政处罚的性质是一种以惩戒违法为目的、具有制裁性的具体行政行为。

　　参照行政诉讼法的规定，行政执法证据按照不同形式，可以分为物证、书证、视听资料、证人证言、当事人陈述、鉴定结论、勘验笔录和现场笔录等。此外，行政处罚会留有行政处罚记录，但记录不是对任何人都开放的，只有司法机关或者律师在办理刑事案件时，报请有权机关审批后，记录才对外提供。他们也不对普通单位或个人提供查询业务。

　　法律依据：

　　《中华人民共和国行政处罚法》第五十四条

　　除本法第五十一条规定的可以当场作出的行政处罚外，行政机关发现公民、法人或者其他组织有依法应当给予行政处罚的行为的，必须全面、客观、公正地调查，收集有关证据；必要时，依照法律、法规的规定，可以进行检查。

　　符合立案标准的，行政机关应当及时立案。