对扣缴义务人未按规定设置、保管代扣代缴税款账簿，且情节严重的，应处以2000元以上5000元以下罚款。 正确。 错误。
经县级税务局长批准，税务机关可以查询涉税案件涉嫌人员的储蓄存款。 正确。 错误。
税务机关在对纳税人、扣缴义务人采取强制执行措施时，不可对滞纳金同时强制执行。 正确。 错误。
纳税人逃避或以其他方式阻挠税务机关检查，情节严重的，处2000元以上1万元以下的罚款。 正确。 错误。
《税收征管法》及其实施细则所规定期限的最后一日是法定休假日的，以休假日期满的次日为期限的最后一日；在期限内有连续3日以上法定休假日的，按休假日天数顺延。 正确。 错误。
非法印制、转借、倒卖、变造或者伪造完税凭证的，由税务机关责令限期改正，可以处2000元以上10000元以下的罚款；情节严重的，处10000元以上50000元以下的罚款；构成犯罪的，依法追究刑事责任。
