jpeg - по определению формат с потерей информации, поэтому на границах и возникают эти артефакты. Их не избежать. Главное - сохранять в jpeg с максимально возможным качеством, чтобы артефакты эти минимизировать. Ну и, конечно, перед сохранением в jpeg никаких намеков на артефакты быть не должно, иначе в jpeg'е они только усилятся.