Zdaje się, że nie dbał szczególnie o zdanie krytyków. W liście do poetki ludowej Melanii Burzyńskiej, tak jak on należącej do Stowarzyszenia Twórców Ludowych w Lublinie, pisał w 1972 r.: „Jeść mam co i dach nad głową mam, […]. W tworzeniu swoim mam zamiar przedstawiać piękno przyrody i tym chwalić Boga i tę chwałę rozbudzać w innych ludziach, którzy je będą czytać. Czy to będzie odpowiadało recenzentom naszego Stowarzyszenia, nie wiem. Ale ja nie piszę dla nich, lecz o tym co siedzi we mnie”. Nie miał wykształcenia, nie odbył wielkich podróży po świecie, nie interesowała go wielka sława, choć czasem w licznych listach do przyjaciół skarżył się na niedocenianie swej poezji na kaszubskiej ziemi.
Urodził się w Jastarni, w skromnej, rybackiej rodzinie. Był dzieckiem słabym i chorowitym. Jako uczniak szkoły podstawowej przeczytał ponoć wszystkie książki ze szkolnej biblioteki. I tak zaczęła się jego wielka miłość do słowa, do literatury i poezji. Pierwsze wiersze pisał jeszcze w szkole podstawowej, kryjąc się z tym choćby przed ojcem, który pragnął, by syn podobnie jak on został rybakiem. Zdarzyło się jednak, że wieść o młodocianym poecie dotarła do jednego z miejscowych rybaków należącego do Chóru Kaszubskiego. Wiersze Antoniego bardzo mu się spodobały i obiecał deklamować je swoim mocnym głosem, kiedy tylko będzie okazja. Obietnicy dotrzymał. Cóż z tego, jeśli niedługo potem, w 1938 r. Antoni Pieper stracił wzrok. Na szczęście okazało się, że stracił go tylko czasowo. Szybko więc powrócił do swej twórczości i samokształcenia.
Pisał głównie w języku polskim, nie kaszubskim. Pragnął, by jego wiersze, bajki, legendy, opowiadania były zrozumiałe nie tylko dla wąskiego, znającego kaszubski grona odbiorców. Być może fakt ów sprawił, że poetę znano bardziej poza granicami Kaszub.
Początkowo tworzył przede wszystkim utwory patriotyczne, potem opiewające fantazję przyrody, zwłaszcza morza, którego pięknu nie mógł się nadziwić. Poeta jest autorem mitu o bursztynie, który pod postacią kropel potu spływa z czoła szalonego i groźnego Gôska czyli kaszubskiego odpowiednika Neptuna. W ostatnim okresie twórczości najbardziej nurtowały go przeżycia religijne. W wierszu „Pogłosy ziemi” z 1972 r. o Matce Boskiej Swarzewskiej, uznawanej za Królową Morza Polskiego, której kult jest na Kaszubach bardzo rozpowszechniony, pisał:
„Niech szumią Tobie codziennie bałwany,
niech pieśń śpiewają Ci w swej nawale,
Bałtyk wzburzony, groźny, rozhukany,
niech hymn potężny grzmi ku Twojej chwale!
Sosny z półwyspu, gdy je wiatr poruszy,
niech nucą Tobie codziennie pacierze,
i naszej prostej, rybackiej słysz duszy
modlitwy szczere w tym natury szmerze”.
W swojej literackiej karierze, zajmował się także publicystyką. Pisywał m.in. do „Dziennika Bałtyckiego”, „Kaszebe”, „Poznaj swój kraj”. Jego wiersze opublikowano w kilku antologiach poezji ludowej o zasięgu ogólnopolskim. Niestety dzisiaj niewielu w Jastarni ani w przyłączonych do niej, w 1954 r. kąpieliskach Juracie i Kuźnicy pamięta o tutejszym, samorodnym, ludowym poecie.
