MediaPipe实现手指关键点检测及追踪,人脸识别及追踪,看这里
初始化方块管理器
squareManager = SquareManager(150)
创建多个方块
for i in range(0, 7):
squareManager.create(180*i+20, 180, 0.3) ##原来是0.6
with self.mp_hands.Hands(min_detection_confidence=0.7,
min_tracking_confidence=0.5,
max_num_hands=2) as hands:
while cap.isOpened():
初始化矩形
success, self.image = cap.read()
self.image = cv2.resize(self.image, (resize_w, resize_h))
if not success:
print(“空帧.”)
continue
提高性能
self.image.flags.writeable = False
转为RGB
self.image = cv2.cvtColor(self.image, cv2.COLOR_BGR2RGB)
镜像
self.image = cv2.flip(self.image, 1)
mediapipe模型处理
results = hands.process(self.image)
self.image.flags.writeable = True
self.image = cv2.cvtColor(self.image, cv2.COLOR_RGB2BGR)
判断是否有手掌
if results.multi_hand_landmarks:
遍历每个手掌
for hand_landmarks in results.multi_hand_landmarks:
在画面标注手指
self.mp_drawing.draw_landmarks(
self.image,
hand_landmarks,
self.mp_hands.HAND_CONNECTIONS,
self.mp_drawing_styles.get_default_hand_landmarks_style(),
self.mp_drawing_styles.get_default_hand_connections_style())
解析手指,存入各个手指坐标
landmark_list = []
用来存储手掌范围的矩形坐标
paw_x_list = []
paw_y_list = []
for landmark_id, finger_axis in enumerate(
hand_landmarks.landmark):
landmark_list.append([
landmark_id, finger_axis.x, finger_axis.y,
finger_axis.z
])
paw_x_list.append(finger_axis.x)
paw_y_list.append(finger_axis.y)
if landmark_list:
比例缩放到像素
ratio_x_to_pixel = lambda x: math.ceil(x * resize_w)
ratio_y_to_pixel = lambda y: math.ceil(y * resize_h)
设计手掌左上角、右下角坐标
paw_left_top_x,paw_right_bottom_x = map(ratio_x_to_pixel,[min(paw_x_list),max(paw_x_list)])
paw_left_top_y,paw_right_bottom_y = map(ratio_y_to_pixel,[min(paw_y_list),max(paw_y_list)])
给手掌画框框
cv2.rectangle(self.image,(paw_left_top_x-30,paw_left_top_y-30),(paw_right_bottom_x+30,paw_right_bottom_y+30),(0, 255,0),2)
获取中指指尖坐标
middle_finger_tip = landmark_list[12]
middle_finger_tip_x =ratio_x_to_pixel(middle_finger_tip[1])
middle_finger_tip_y =ratio_y_to_pixel(middle_finger_tip[2])
获取食指指尖坐标
index_finger_tip = landmark_list[8]
index_finger_tip_x =ratio_x_to_pixel(index_finger_tip[1])
index_finger_tip_y =ratio_y_to_pixel(index_finger_tip[2])
中间点
between_finger_tip = (middle_finger_tip_x+index_finger_tip_x)//2, (middle_finger_tip_y+index_finger_tip_y)//2
print(middle_finger_tip_x)
thumb_finger_point = (middle_finger_tip_x,middle_finger_tip_y)
index_finger_point = (index_finger_tip_x,index_finger_tip_y)
画指尖2点
circle_func = lambda point: cv2.circle(self.image,point,10,(255,0,255),-1)
self.image = circle_func(thumb_finger_point)
self.image = circle_func(index_finger_point)
self.image = circle_func(between_finger_tip)
画2点连线
self.image = cv2.line(self.image,thumb_finger_point,index_finger_point,(255,0,255),5)
勾股定理计算长度
line_len = math.hypot((index_finger_tip_x-middle_finger_tip_x),(index_finger_tip_y-middle_finger_tip_y))
将指尖距离映射到文字
rect_percent_text = math.ceil(line_len)
激活模式,需要让矩形跟随移动
if squareManager.drag_active:
更新方块
squareManager.updateSquare(between_finger_tip[0],between_finger_tip[1])
if(line_len>100):
取消激活
squareManager.drag_active =False
squareManager.active_index = -1
elif (line_len<100) and (squareManager.checkOverlay(between_finger_tip[0],between_finger_tip[1]) != -1 )and( squareManager.drag_active == False):
激活
squareManager.drag_active =True
计算距离
squareManager.setLen(between_finger_tip[0],between_finger_tip[1])
显示方块,传入本实例,主要为了半透明的处理
squareManager.display(self)
显示距离
cv2.putText(self.image, “Distance:”+str(rect_percent_text), (10, 120),cv2.FONT_HERSHEY_PLAIN, 3, (255, 0, 0), 3)
显示当前激活
cv2.putText(self.image, “Active:”+( “None” if squareManager.active_index == -1 else str(squareManager.active_index)), (10, 170),cv2.FONT_HERSHEY_PLAIN, 3, (255, 0, 0), 3)
显示刷新率FPS
cTime = time.time()
fps_text = 1/(cTime-fpsTime)
fpsTime = cTime
cv2.putText(self.image, "FPS: " + str(int(fps_text)), (10, 70),
cv2.FONT_HERSHEY_PLAIN, 3, (255, 0, 0), 3)
显示画面
self.image = cv2.resize(self.image, (resize_w//2, resize_h//2))
cv2.imshow(‘virtual drag and drop’, self.image)
if cv2.waitKey(5) & 0xFF == 27:
break
cap.release()
开始程序
control = HandControlVolume()
control.recognize()
3.mediapipe实现手势控制音量大小(转载于恩培大佬)
效果如示:


源码如下:
“”"
功能:手势操作电脑音量
1、使用OpenCV读取摄像头视频流;
2、识别手掌关键点像素坐标;
3、根据拇指和食指指尖的坐标,利用勾股定理计算距离;
4、将距离等比例转为音量大小,控制电脑音量
“”"
导入OpenCV
import cv2
导入mediapipe
import mediapipe as mp
导入电脑音量控制模块
from ctypes import cast, POINTER
from comtypes import CLSCTX_ALL
from pycaw.pycaw import AudioUtilities, IAudioEndpointVolume
导入其他依赖包
import time
import math
import numpy as np
class HandControlVolume:
def init(self):
初始化medialpipe
self.mp_drawing = mp.solutions.drawing_utils
self.mp_drawing_styles = mp.solutions.drawing_styles
self.mp_hands = mp.solutions.hands
获取电脑音量范围
devices = AudioUtilities.GetSpeakers()
interface = devices.Activate(
IAudioEndpointVolume.iid, CLSCTX_ALL, None)
self.volume = cast(interface, POINTER(IAudioEndpointVolume))
self.volume_range = self.volume.GetVolumeRange()
主函数
def recognize(self):
计算刷新率
fpsTime = time.time()
OpenCV读取视频流
cap = cv2.VideoCapture(0)
视频分辨率
resize_w = 640
resize_h = 480
画面显示初始化参数
rect_height = 0
rect_percent_text = 0
with self.mp_hands.Hands(min_detection_confidence=0.7,
min_tracking_confidence=0.5,
max_num_hands=2) as hands:
while cap.isOpened():
success, image = cap.read()
image = cv2.resize(image, (resize_w, resize_h))
if not success:
print(“空帧.”)
continue
提高性能
image.flags.writeable = False
转为RGB
image = cv2.cvtColor(image, cv2.COLOR_BGR2RGB)
镜像
image = cv2.flip(image, 1)
mediapipe模型处理
results = hands.process(image)
image.flags.writeable = True
image = cv2.cvtColor(image, cv2.COLOR_RGB2BGR)
判断是否有手掌
if results.multi_hand_landmarks:
遍历每个手掌
for hand_landmarks in results.multi_hand_landmarks:
在画面标注手指
self.mp_drawing.draw_landmarks(
image,
hand_landmarks,
self.mp_hands.HAND_CONNECTIONS,
self.mp_drawing_styles.get_default_hand_landmarks_style(),
self.mp_drawing_styles.get_default_hand_connections_style())
解析手指,存入各个手指坐标
landmark_list = []
for landmark_id, finger_axis in enumerate(
hand_landmarks.landmark):
landmark_list.append([
landmark_id, finger_axis.x, finger_axis.y,
finger_axis.z
])
if landmark_list:
获取大拇指指尖坐标
thumb_finger_tip = landmark_list[4]
thumb_finger_tip_x = math.ceil(thumb_finger_tip[1] * resize_w)
thumb_finger_tip_y = math.ceil(thumb_finger_tip[2] * resize_h)
获取食指指尖坐标
index_finger_tip = landmark_list[8]
index_finger_tip_x = math.ceil(index_finger_tip[1] * resize_w)
index_finger_tip_y = math.ceil(index_finger_tip[2] * resize_h)
中间点
finger_middle_point = (thumb_finger_tip_x+index_finger_tip_x)//2, (thumb_finger_tip_y+index_finger_tip_y)//2
print(thumb_finger_tip_x)
thumb_finger_point = (thumb_finger_tip_x,thumb_finger_tip_y)
index_finger_point = (index_finger_tip_x,index_finger_tip_y)
画指尖2点
image = cv2.circle(image,thumb_finger_point,10,(255,0,255),-1)
image = cv2.circle(image,index_finger_point,10,(255,0,255),-1)
image = cv2.circle(image,finger_middle_point,10,(255,0,255),-1)
画2点连线
image = cv2.line(image,thumb_finger_point,index_finger_point,(255,0,255),5)
勾股定理计算长度
line_len = math.hypot((index_finger_tip_x-thumb_finger_tip_x),(index_finger_tip_y-thumb_finger_tip_y))
获取电脑最大最小音量
min_volume = self.volume_range[0]
max_volume = self.volume_range[1]
将指尖长度映射到音量上
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。





既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以添加V获取:vip1024b (备注Java)
写在最后
很多人感叹“学习无用”,实际上之所以产生无用论,是因为自己想要的与自己所学的匹配不上,这也就意味着自己学得远远不够。无论是学习还是工作,都应该有主动性,所以如果拥有大厂梦,那么就要自己努力去实现它。
最后祝愿各位身体健康,顺利拿到心仪的offer!
由于文章的篇幅有限,所以这次的蚂蚁金服和京东面试题答案整理在了PDF文档里



-6uIZ2bkr-1711775701369)]
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以添加V获取:vip1024b (备注Java)
[外链图片转存中…(img-A0w6VEEg-1711775701369)]
写在最后
很多人感叹“学习无用”,实际上之所以产生无用论,是因为自己想要的与自己所学的匹配不上,这也就意味着自己学得远远不够。无论是学习还是工作,都应该有主动性,所以如果拥有大厂梦,那么就要自己努力去实现它。
最后祝愿各位身体健康,顺利拿到心仪的offer!
由于文章的篇幅有限,所以这次的蚂蚁金服和京东面试题答案整理在了PDF文档里
[外链图片转存中…(img-AsQjKmxn-1711775701369)]
[外链图片转存中…(img-kzIQBOWi-1711775701370)]
[外链图片转存中…(img-THA9k1T7-1711775701370)]
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)