可以去税局，让税局代开发票。税金必须当场缴纳，采取银税联网扣款方式或刷银联卡方式缴纳税款，税局一般不收现金的。按照现行税法规定，没有办理税务登记证的纳税人，不能领购发票，因此，没有办理税务登记证的纳税人不可能自己有发票开具。
